إرشادات ICO الجديدة للامتثال لخصوصية بيانات AI و PII

كيفية جمع بيانات الذكاء الاصطناعي بشكل قانوني

تقر إرشادات ICO أنه في حين أن استخدام الذكاء الاصطناعي له مزايا لا يمكن إنكارها ، إلا أنه يمكن أن يعرض حريات الأشخاص وحقوقهم للخطر عندما لا تؤخذ حماية البيانات على محمل الجد. ولهذه الغاية ، توفر إرشاداتهم إطارًا مفيدًا لكيفية تقييم المؤسسات لهذه المخاطر والتخفيف من حدتها.

يغطي الدليل ثمانية عناصر إستراتيجية يمكن للشركات اعتمادها لتحسين كيفية تعاملهم مع الذكاء الاصطناعي والبيانات الشخصية:

1. استخدم إجراءً قائمًا على المخاطر عند إنشاء الذكاء الاصطناعي وتنفيذه

عند استخدام الذكاء الاصطناعي ، يجب عليك تحديد ما إذا كان ضروريًا للموقف. يُعتبر الذكاء الاصطناعي عادةً تقنية عالية الخطورة عندما يتفاعل مع المعلومات الشخصية. تتطلب الشركة كميات كبيرة من البيانات من أجل تحسين أنظمتها لتعمل بشكل صحيح وقد يتم إعادة بيع بياناتنا ، حيث تصبح غير مدركة لمن يستلمها أو كيف يتم استخدامها.

وبالتالي ، قد يكون هناك بديل أكثر كفاءة ويحافظ على الخصوصية.

كما تنص ICO ، يجب عليك تقييم المخاطر ووضع الضمانات التنظيمية والفنية اللازمة لتقليلها. من الناحية الواقعية ، من المستحيل القضاء تمامًا على جميع المخاطر ، ولا تفرض قوانين حماية البيانات عليك القيام بذلك ، ولكن تأكد من:

• استخدام تقييم تأثير حماية البيانات (DPIA) لتحديد وتقليل مخاطر عدم الالتزام بقوانين حماية البيانات التي يشكلها استخدامك للذكاء الاصطناعي ، وكذلك منع الضرر الذي يلحق بالأفراد
• ابحث عن مدخلات من العديد من المجموعات التي من المحتمل أن يؤثر استخدامك للذكاء الاصطناعي من أجل فهم الخطر بشكل أفضل

عندما يُطلب قانون حماية البيانات الشخصية قانونًا ، يجب عليك إجراء واحدة قبل نشر نظام ذكاء اصطناعي ، وتقديم إجراءات وقائية تنظيمية وتقنية مناسبة من شأنها أن تساعد في تقليل أو إدارة المخاطر التي تجدها. قبل حدوث أي معالجة ، أنت مطالب قانونيًا بالتحدث مع ICO إذا حددت خطرًا لا يمكنك تخفيفه بشكل مناسب.

2. ضع في اعتبارك كيف ستشرح قرارات نظام الذكاء الاصطناعي الخاص بك لأولئك الذين سيتأثرون

وفقًا لـ ICO ، قد يكون من الصعب شرح كيف يولد الذكاء الاصطناعي قرارات ونتائج معينة ، خاصة عندما يتعلق الأمر بالتعلم الآلي والخوارزميات المعقدة - لكن هذا لا يعني أنه لا ينبغي عليك تقديم تفسيرات للأشخاص.

إليك ما يوصي به ICO:

• كن واضحًا ومنفتحًا وشفافًا مع الأشخاص حول كيفية ولماذا تقوم بجمع واستخدام بياناتهم الشخصية
• فكر في التبرير المطلوب في البيئة التي سيتم فيها استخدام نظام الذكاء الاصطناعي الخاص بك
• ضع في اعتبارك كيف من المحتمل أن يدرك الناس تفسيرك
• قم بتحليل التأثيرات المحتملة لخيارات نظام الذكاء الاصطناعي الخاص بك لتحديد مدى دقة التبرير الخاص بك
• ضع في اعتبارك كيفية إدارة طلبات الحقوق الفردية

3. اجمع المعلومات الضرورية فقط لإنشاء نظام الذكاء الاصطناعي الخاص بك

ينصح ICO بالحد من جمع البيانات كلما أمكن ذلك. هذا لا يعني أنه لا يمكن جمع البيانات - فهذا يعني فقط أن البيانات تُدار بطريقة تلبي معايير القانون العام لحماية البيانات (GDPR).

يجب:

• تأكد من أن المعلومات الشخصية التي تستخدمها دقيقة وكافية وذات صلة ومحدودة - سيختلف هذا اعتمادًا على السياق الذي تستخدم فيه الذكاء الاصطناعي
• فكر في طرق الحفاظ على الخصوصية المناسبة للموقف الذي تستخدم فيه الذكاء الاصطناعي لمعالجة البيانات الشخصية

لا يتطلب مبدأ الدقة لحماية البيانات أن يكون نظام الذكاء الاصطناعي صحيحًا بنسبة 100٪. وبدلاً من ذلك ، يجب على المنظمات التأكد من وجود إجراءات لضمان الإنصاف والدقة الشاملة للنتائج.

4. ضع علامة على مخاطر التحيز والتمييز في مرحلة مبكرة

هناك طرق يمكن أن يكون فيها نظام الذكاء الاصطناعي متحيزًا أو يؤدي إلى التمييز. يمكن أن يؤدي ذلك إلى إنشاء مجموعات بيانات غير دقيقة وغير متوازنة ، كما أن معالجة هذه المشكلة مبكرًا يعد جانبًا مهمًا من جوانب امتثال خصوصية البيانات.

توصي ICO بما يلي:

• حدد ما إذا كانت البيانات التي تجمعها دقيقة وتمثيلية وموثوقة وذات صلة وحديثة للمجتمع أو لمجموعات مختلفة من الأشخاص المتأثرين بنظام الذكاء الاصطناعي
• حدد ما إذا كانت الأحكام الصادرة عن نظام الذكاء الاصطناعي مقبولة من خلال تحديد الآثار والنتائج المحتملة لمختلف المجموعات

5. استثمر الوقت والموارد في إعداد البيانات بشكل صحيح

كما ذكرنا سابقًا ، لا يمكن الاعتماد على الذكاء الاصطناعي إلا بقدر موثوقية البيانات التي يجمعها. لذلك ، تحتاج المنظمات إلى التأكد من تخصيص موارد ووقت كافيين لجمع البيانات اللازمة.

يوصي ICO بما يلي:

• عندما يتعلق الأمر بتصنيف البيانات التي تتضمن خصائص محمية أو بيانات فئة خاصة ، يجب أن تكون هناك معايير محددة وخطوط للمساءلة
• للحفاظ على الاتساق والمساعدة في المواقف غير العادية ، يجب عليك إشراك العديد من واضعي الملصقات البشرية

6. تأكد من أن نظام الذكاء الاصطناعي الخاص بك آمن

تتمتع أنظمة الذكاء الاصطناعي بإمكانية زيادة المخاطر أو إدخال ثغرات أمنية جديدة.

عندما يتعلق الأمر بالإجراءات الأمنية ، لا يوجد نهج واحد يناسب الجميع. ومع ذلك ، يجب عليك الالتزام بالقانون ووضع الضمانات التنظيمية والفنية المناسبة لتوفير مستوى من الأمان يتناسب مع أي مخاطر يتم تحديدها.

يوصي ICO الشركات بما يلي:

• قم بإجراء تقييم للمخاطر الأمنية يتضمن جردًا حاليًا لجميع أنظمة الذكاء الاصطناعي بحيث يمكنك الحصول على مفهوم عام للمكان الذي قد تحدث فيه الحوادث المحتملة
• إجراء تصحيح أخطاء النموذج ، وهي عملية تحديد العيوب في النموذج ومعالجتها - إما عن طريق مدقق أمان داخلي أو مدقق أمان خارجي
• تطبيق نظام مراقبة استباقي ، والنظر في أي مخالفات

7. يجب أن تكون المراجعات البشرية لقرارات الذكاء الاصطناعي ذات مغزى

يجب تحديده مبكرًا إذا كانت المخرجات تُستخدم لمساعدة صانع القرار البشري ، أو ما إذا كانت القرارات مستقلة تمامًا ، اعتمادًا على هدف الذكاء الاصطناعي.

يؤكد ICO على أن أصحاب البيانات لديهم الحق في معرفة ما إذا كانت الاختيارات التي تتضمن بياناتهم قد تم إجراؤها بالكامل بمفردهم أو بمساعدة الذكاء الاصطناعي. تقترح المبادئ التوجيهية أيضًا أنه يجب تقييمها بشكل هادف عند استخدامها لمساعدة شخص ما.

للتأكد من أن هذه المراجعات ذات مغزى ، يجب أن يكون المراجعون:

• المهارة الكافية لتقييم نتائج نظام الذكاء الاصطناعي والتشكيك فيها
• قادرة على نقض الحكم التلقائي
• علمًا بالعوامل الإضافية التي لم تنعكس في بيانات الإدخال

عندما يكون للقرار تأثير قانوني أو تأثير جوهري آخر ، يحق لأصحاب البيانات بموجب اللائحة العامة لحماية البيانات عدم الخضوع له. لديهم أيضًا الحق في توقع معلومات مفيدة حول السبب وراء القرار.

نتيجة لذلك ، حتى لو تم ذكرها كتوصية ، فإن المراجعة البشرية ضرورية مع ذلك عندما يتخذ الذكاء الاصطناعي قرارات مهمة.

8. استشر موردًا خارجيًا للتأكد من أن استخدامك للذكاء الاصطناعي مناسب

إن شراء نظام ذكاء اصطناعي من طرف ثالث لا يعفيك من مسؤولية الالتزام بتشريعات حماية البيانات. في معظم الحالات ، ستكون المتحكم في البيانات ، وتحديد كيفية نشر نظام الذكاء الاصطناعي.