غشاش وكاذب مثل البشر.. الذكاء الاصطناعي احتيال

12:30 مساءا

الثلاثاء 2 يناير 2024

كشفت دراسة جديدة أن روبوتات الدردشة المدعمة بالذكاء الاصطناعي مثل ChatGPT ستلجأ إلى الغش والكذب عليك إذا “ضغطت” عليها، حتى لو كانت مصممة لتكون صادقة وشفافة.

ظهر هذا السلوك المخادع بشكل عفوي عندما تم إعطاء الذكاء الاصطناعي نصيحة حول “التداول الداخلي” ومن ثم تم تكليفه بجمع الأموال لصالح منظمة قوية.

“في هذا التقرير، نعرض سيناريو واحدًا يتصرف فيه “نموذج اللغة” بشكل غير صحيح ويخدع مستخدميه بشكل منهجي دون أن يُطلب منهم التصرف بهذه الطريقة”، كما كتب الخبراء في ورقتهم المنشورة على خادم arXiv المسبق للطباعة. “على حد علمنا، هذا هو الدليل الأول على أن مثل هذا السلوك الخادع يعد أمرًا استراتيجيًا في أنظمة الذكاء الاصطناعي المصممة لتكون غير ضارة وصادقة.”

في الدراسة الجديدة، تم إنشاء المحول التوليدي المُدرب مسبقًا-4، أو GPT-4 (الذي يشغل ChatGPT Plus)، ليكون بمثابة نظام ذكاء اصطناعي يقوم باستثمارات نيابة عن مؤسسة مالية.

قام الباحثون بتغذية GPT-4 بمجموعة من النصوص التي تطالب بإنشاء بيئة محاكاة. تم منح الذكاء الاصطناعي إمكانية الوصول إلى الأدوات المالية لتحليل الأسهم وتنفيذ الصفقات والتخطيط لخطواته التالية وتقديم التحديثات للمديرين في الشركة.

وتفاعل الباحثون مع الذكاء الاصطناعي عبر واجهة الدردشة وضغطوا عليه وقدموا…