مخاطر سوء استخدام الذكاء الاصطناعي على الفرد والمجتمع

بقلم: الدكتور يحيى مراد أرسل بريدا إلكترونيا منذ أسبوعين

0 9٬759 أقل من دقيقة

لم يعد الذكاء الاصطناعي تقنية بعيدة عن حياة الناس؛ فهو حاضر في الدراسة والعمل والبحث والتسوق وصناعة المحتوى. وقد أتاح فرصًا ثمينة لتيسير المهام وتحليل المعلومات وتوسيع الوصول إلى المعرفة. غير أن فائدته لا تنفصل عن طريقة استخدامه. فعندما تُقبل مخرجاته بلا تحقق، أو تُستعمل أدواته لخداع الناس وانتهاك خصوصيتهم، تتحول السرعة والقدرة على الإنتاج إلى مصدر خطر على الفرد والمجتمع.
حين تبدو المعلومة الخاطئة موثوقة:
من أبرز مخاطر سوء الاستخدام التعامل مع إجابات الذكاء الاصطناعي كما لو كانت حقائق مؤكدة. فقد يقدم تفسيرًا مرتبًا ومقنعًا، ثم يتبين أن بعض معلوماته غير دقيقة أو أن مصادره لا تؤيد ما قاله. ويكون أثر ذلك أشد عندما يتعلق الأمر بصحة الإنسان أو أمواله أو حقوقه أو مستقبله الدراسي والمهني.
المشكلة هنا أن الخطأ قد يأتي في صياغة واثقة. لذلك لا ينبغي أن تحل الإجابة السريعة محل الرجوع إلى المصدر الأصلي أو سؤال المختص عند الحاجة. فالمستخدم المسؤول يستفيد من الأداة في البحث الأولي وترتيب الأفكار، ثم يتحقق قبل أن يتخذ قرارًا مؤثرًا.
تآكل الخصوصية واستغلال البيانات:
قد يُدخل بعض المستخدمين في الأدوات الذكية صورًا شخصية، أو وثائق عمل، أو معلومات صحية، أو بيانات تخص آخرين، دون أن ينتبهوا إلى حساسية ما شاركوه. وقد يمتد الضرر من الفرد إلى مؤسسة كاملة إذا كُشفت معلومات العملاء أو الأسرار المهنية أو نتائج أبحاث لم تُنشر.
ولهذا لا يكفي أن نسأل: «هل تستطيع الأداة إنجاز المهمة؟» بل يجب أن نسأل أيضًا: «ما البيانات التي ستحتاج إليها؟ وهل يحق لنا مشاركتها؟». وقد جعلت اليونسكو حماية الخصوصية والبيانات الشخصية من المبادئ الأساسية للاستخدام الأخلاقي للذكاء الاصطناعي.
صناعة الخداع وتزييف الثقة:
أصبح من الممكن إنتاج نصوص وصور وأصوات ومقاطع تبدو حقيقية بدرجة قد توقع المتلقي في اللبس. ويمكن إساءة استخدام هذه القدرة لانتحال شخصية إنسان، أو اختلاق تصريح، أو نشر خبر مضلل، أو تشويه سمعة شخص. ولا يقتصر الضرر على من يقع ضحية التزييف؛ إذ تتأثر ثقة المجتمع أيضًا بما يسمعه ويراه.
فإذا شاع الشك في صحة المواد المتداولة، صار إثبات الحقيقة أصعب. وحين تنتشر مادة مضللة قبل التحقق منها، قد لا يكفي تصحيحها لاحقًا لإزالة أثرها. لذلك تصبح مسؤولية الناشر والمتلقي مشتركة: التثبت من المصدر، وعدم إعادة نشر مادة مثيرة لمجرد أنها تبدو مقنعة، والتنبه إلى أن الصورة أو الصوت ليسا دليلًا قاطعًا بمفردهما. وتعد أطر إدارة مخاطر الذكاء الاصطناعي المحتوى المضلل والضار ضمن المخاطر التي ينبغي تقييمها والحد منها.
ضعف التعلم والاعتماد المفرط على الأداة:
يمكن للذكاء الاصطناعي أن يساعد الطالب على فهم درس صعب، وأن يعين الموظف على تنظيم عمله. لكنه قد يضعف المهارة التي جاء لمساعدتها إذا اعتاد الإنسان تسليم المهمة كاملة إليه. فالطالب الذي يقدم بحثًا لم يقرأ مصادره، والكاتب الذي ينشر رأيًا لم يفحص حججه، والموظف الذي يعتمد قرارًا لم يراجع أسسه، يحصلون على نتيجة سريعة دون أن يمتلكوا بالضرورة القدرة على تفسيرها أو الدفاع عنها.
ولا يظهر أثر هذا الاعتماد في مهمة واحدة، بل في تراكم العادات. فالتفكير النقدي والكتابة وحل المشكلات مهارات تنمو بالممارسة. وكلما تنازل الإنسان عن ممارستها، أصبح أشد اعتمادًا على الأداة وأقل قدرة على اكتشاف خطئها. ومن ثم فإن الاستخدام النافع هو الذي يجعل الذكاء الاصطناعي معينًا على التعلم، مع بقاء جهد الفهم والمراجعة لدى الإنسان.
التحيز والظلم في القرارات:
قد تتأثر الأنظمة الذكية بالبيانات التي دُرّبت عليها، أو بالطريقة التي صُممت بها، أو بالسياق الذي تُستخدم فيه. وإذا استُخدمت مخرجاتها في التوظيف أو تقييم الطلاب أو تقديم الخدمات دون فحص، فقد تُنتج قرارات تضر بعض الأفراد أو الفئات. والخطر أكبر حين يظن المسؤول أن القرار محايد لمجرد أنه صدر عن نظام تقني.
إن عدالة القرار تحتاج إلى شفافية ومعايير واضحة، وإلى إمكانية مراجعته والاعتراض عليه، لا إلى الاكتفاء بنتيجة آلية يصعب تفسيرها. وقد أكدت اليونسكو في توصيتها بشأن أخلاقيات الذكاء الاصطناعي مبادئ الإنصاف وعدم التمييز وحماية حقوق الإنسان.
أثر سوء الاستخدام في المجتمع:
تتجاوز هذه المخاطر حدود الأفراد عندما تتكرر على نطاق واسع. فانتشار الأخبار المزيفة قد يثير الخوف والانقسام، وانتهاك البيانات قد يضعف ثقة الناس بالخدمات الرقمية، والاعتماد غير المدروس على الأنظمة الآلية قد يجعل الأخطاء الفردية قرارات مؤسسية. كما أن تفاوت القدرة على الوصول إلى الأدوات الجيدة وتعلم استخدامها قد يزيد الفجوة بين من يملكون الموارد والمهارات ومن يفتقرون إليها.
ولا تعني مواجهة هذه المخاطر رفض التقنية؛ بل تعني بناء ثقافة تعرف قدرها وحدودها. فالمجتمع يحتاج إلى تعليم مهارات التحقق الرقمي، وإلى سياسات واضحة لحماية البيانات، وإلى مساءلة الجهات التي تستخدم الأنظمة الذكية في قرارات تمس الناس. وتحتاج المؤسسات، قبل اعتماد أي أداة، إلى اختبار فائدتها ومخاطرها، وتحديد من يتحمل مسؤولية نتائجها، وكيف يمكن تصحيح الخطأ إذا وقع.
كيف نستخدم الذكاء الاصطناعي بمسؤولية؟
تبدأ الوقاية من سلوك بسيط هو: ألا نخلط بين سهولة الحصول على إجابة وصحتها. ثم تتسع لتشمل حماية المعلومات الشخصية، والإفصاح عن المحتوى المصنوع أو المعدل آليًا حين يكون ذلك مؤثرًا في فهم الجمهور، ومراجعة النتائج قبل نشرها أو العمل بها. وفي التعليم والعمل، ينبغي أن تكون حدود الاستعانة بالأداة واضحة، وأن يظل الإنسان قادرًا على شرح ما قدمه باسمه.
أما على مستوى المؤسسات، فالمطلوب تدريب العاملين، وتقييم الأدوات قبل استخدامها، ومراقبة آثارها، وإتاحة مراجعة بشرية للقرارات المهمة. فإدارة المخاطر عملية مستمرة تتطور مع تطور التقنية وطرق استعمالها.
إن الذكاء الاصطناعي يمنح الإنسان قدرة كبيرة، لكنه لا يمنحه تلقائيًا الحكمة في استخدامها. وتكمن المسؤولية في أن ننتفع بسرعته دون أن نتخلى عن التحقق، وأن نستفيد من إمكاناته دون أن نهدر خصوصية الناس وحقوقهم. وعندما يبقى الإنسان واعيًا بما ينشر ويقرر، يمكن لهذه التقنية أن تخدم الفرد والمجتمع بدل أن تتحول إساءة استخدامها إلى عبء عليهما.