تحذير: الذكاء الاصطناعي يروج لصور الاعتداء الجنسي على الأطفال

12:07 مساءً

الاثنين 25 ديسمبر 2023

كشفت دراسة جديدة عن الدور الخفي الذي تلعبه أدوات الذكاء الاصطناعي في الترويج للاعتداء الجنسي على الأطفال، وقالت إن آلاف صور الاعتداء مخبأة داخل مؤسسة شهيرة لمولدات صور الذكاء الاصطناعي.

وبحسب صحيفة الغارديان البريطانية، فقد عثر مرصد ستانفورد للإنترنت على أكثر من 3200 صورة لاعتداء جنسي على الأطفال في قاعدة بيانات الذكاء الاصطناعي العملاقة LAION، وهو فهرس على الإنترنت للصور والتسميات التوضيحية تم استخدامه لتدريب صانعي صور الذكاء الاصطناعي مثل Stable Diffusion. .

وعملت مجموعة المراقبة مع المركز الكندي لحماية الطفل وغيره من الجمعيات الخيرية المناهضة للإساءة لتحديد المواد غير القانونية والإبلاغ عن روابط الصور الأصلية إلى جهات إنفاذ القانون. تم التأكد من أن أكثر من 1000 من الصور المشتبه بها تحتوي على مواد الاعتداء الجنسي على الأطفال.

من جانبها، قالت LAION إنها قامت بإزالة مجموعات البيانات الخاصة بها مؤقتًا. وأضافت الشركة، التي تمثل Open Network for AI غير الربحية، في بيان: “ليس لدينا أي تسامح مطلق مع المحتوى غير القانوني، ومن باب الحذر الشديد، قمنا بإزالة مجموعات بيانات LAION للتأكد من أنها آمنة قبل إعادة نشرها. “

على الرغم من أن الصور لا تمثل سوى جزء صغير من LAION…