روبوتات الذكاء الاصطناعي قد تتعرض للاختراق، والعواقب ستكون وخيمة

يقال إن الباحثين في Penn Engineering (الولايات المتحدة الأمريكية) اكتشفوا ثغرات أمنية لم يتم تحديدها مسبقًا في عدد من المنصات الروبوتية التي يتم التحكم فيها بواسطة الذكاء الاصطناعي.

وقال جورج باباس، أستاذ الهندسة الكهربائية والأنظمة في مؤسسة UPS، في بيان: " تظهر أبحاثنا أنه في هذه المرحلة، لا تتمتع نماذج اللغة الكبيرة (LLMs) عمومًا بالأمان الكافي عند دمجها مع أجهزة مادية معقدة".

قام باباس وفريقه بتطوير خوارزمية أطلقوا عليها اسم RoboPAIR، وهي "الخوارزمية الأولى المصممة لاختراق الروبوتات التي يتحكم بها برنامج LLM". وعلى عكس الهجمات التقنية السريعة الحالية التي تستهدف روبوتات الدردشة، تم تصميم RoboPAIR خصيصًا "لتحفيز الإجراءات الجسدية الضارة" من الروبوتات التي يتحكم فيها LLM، مثل منصة الروبوتات البشرية المسماة Atlas والتي تقوم Boston Dynamics ومعهد تويوتا للأبحاث (TRI) بتطويرها.

وذكرت التقارير أن RoboPAIR حقق معدل نجاح بنسبة 100% في اختراق ثلاث منصات بحثية شائعة في مجال الروبوتات: Unitree Go2 ذات الأربع أرجل، وClearpath Robotics Jackal ذات الأربع عجلات، ومحاكي Dolphins LLM للسيارات ذاتية القيادة. ولم يستغرق الأمر سوى بضعة أيام حتى تتمكن الخوارزمية من الوصول الكامل إلى تلك الأنظمة، والبدء في تجاوز الحواجز الأمنية. وبمجرد أن تولى الباحثون السيطرة، تمكنوا من توجيه منصات الروبوت المستقلة للقيام بمجموعة متنوعة من الأفعال الخطيرة، مثل القيادة عبر التقاطعات دون توقف.

" تظهر نتائج التقييم الأول أن مخاطر برامج الماجستير في القانون المتصدعة تتجاوز توليد النصوص، حيث من الواضح أن الروبوتات المتصدعة يمكن أن تسبب أضرارًا مادية في العالم الحقيقي ."

ويعمل فريق Penn Engineering مع مطوري المنصات لتعزيز أنظمتهم ضد المزيد من الاختراقات، لكنه يحذر من أن هذه المشكلات الأمنية منهجية ويصعب معالجتها بالكامل.

تُظهر نتائج هذه الدراسة بوضوح أن اعتماد نهج السلامة أمرٌ بالغ الأهمية لإطلاق العنان للابتكار المسؤول. وصرح الفريق قائلاً: " يجب علينا معالجة نقاط الضعف الكامنة قبل نشر الروبوتات المدعومة بالذكاء الاصطناعي في العالم الحقيقي".

تتطلب العملية الآمنة اختبار أنظمة الذكاء الاصطناعي بحثًا عن التهديدات والثغرات المحتملة، وهو أمر ضروري لحماية أنظمة الذكاء الاصطناعي التي تنشئها. لأنه فقط عندما تحدد نقاط الضعف يمكنك اختبار وحتى تدريب الأنظمة لمنع المخاطر.