روبوتات الذكاء الاصطناعي قد تتعرض للاختراق، والعواقب ستكون وخيمة

سجل واكسب 1000 دولار في اليوم ⋙

يقال إن الباحثين في Penn Engineering (الولايات المتحدة الأمريكية) اكتشفوا ثغرات أمنية لم يتم تحديدها مسبقًا في عدد من المنصات الروبوتية التي يتم التحكم فيها بواسطة الذكاء الاصطناعي.

وقال جورج باباس، أستاذ الهندسة الكهربائية والأنظمة في مؤسسة UPS، في بيان: " تظهر أبحاثنا أنه في هذه المرحلة، لا تتمتع نماذج اللغة الكبيرة (LLMs) عمومًا بالأمان الكافي عند دمجها مع أجهزة مادية معقدة".

قام باباس وفريقه بتطوير خوارزمية أطلقوا عليها اسم RoboPAIR، وهي "الخوارزمية الأولى المصممة لاختراق الروبوتات التي يتحكم بها برنامج LLM". وعلى عكس الهجمات التقنية السريعة الحالية التي تستهدف روبوتات الدردشة، تم تصميم RoboPAIR خصيصًا "لتحفيز الإجراءات الجسدية الضارة" من الروبوتات التي يتحكم فيها LLM، مثل منصة الروبوتات البشرية المسماة Atlas والتي تقوم Boston Dynamics ومعهد تويوتا للأبحاث (TRI) بتطويرها.

وذكرت التقارير أن RoboPAIR حقق معدل نجاح بنسبة 100% في اختراق ثلاث منصات بحثية شائعة في مجال الروبوتات: Unitree Go2 ذات الأربع أرجل، وClearpath Robotics Jackal ذات الأربع عجلات، ومحاكي Dolphins LLM للسيارات ذاتية القيادة. ولم يستغرق الأمر سوى بضعة أيام حتى تتمكن الخوارزمية من الوصول الكامل إلى تلك الأنظمة، والبدء في تجاوز الحواجز الأمنية. وبمجرد أن تولى الباحثون السيطرة، تمكنوا من توجيه منصات الروبوت المستقلة للقيام بمجموعة متنوعة من الأفعال الخطيرة، مثل القيادة عبر التقاطعات دون توقف.

" تظهر نتائج التقييم الأول أن مخاطر برامج الماجستير في القانون المتصدعة تتجاوز توليد النصوص، حيث من الواضح أن الروبوتات المتصدعة يمكن أن تسبب أضرارًا مادية في العالم الحقيقي ."

روبوتات الذكاء الاصطناعي قد تتعرض للاختراق، والعواقب ستكون وخيمة

ويعمل فريق Penn Engineering مع مطوري المنصات لتعزيز أنظمتهم ضد المزيد من الاختراقات، لكنه يحذر من أن هذه المشكلات الأمنية منهجية ويصعب معالجتها بالكامل.

تُظهر نتائج هذه الدراسة بوضوح أن اعتماد نهج السلامة أمرٌ بالغ الأهمية لإطلاق العنان للابتكار المسؤول. وصرح الفريق قائلاً: " يجب علينا معالجة نقاط الضعف الكامنة قبل نشر الروبوتات المدعومة بالذكاء الاصطناعي في العالم الحقيقي".

تتطلب العملية الآمنة اختبار أنظمة الذكاء الاصطناعي بحثًا عن التهديدات والثغرات المحتملة، وهو أمر ضروري لحماية أنظمة الذكاء الاصطناعي التي تنشئها. لأنه فقط عندما تحدد نقاط الضعف يمكنك اختبار وحتى تدريب الأنظمة لمنع المخاطر.

Sign up and earn $1000 a day ⋙

Leave a Comment

12 إعدادًا في هواتف Samsung Galaxy يجب عليك تغييرها

12 إعدادًا في هواتف Samsung Galaxy يجب عليك تغييرها

هل اشتريت للتو هاتف Samsung Galaxy وتحتاج إلى تكوينه؟ إليك 10 إعدادات يجب عليك تغييرها لجعل هاتف Samsung الخاص بك يعمل بشكل أفضل.

أحدث رموز لعبة Murder Mystery 2 وكيفية إدخالها

أحدث رموز لعبة Murder Mystery 2 وكيفية إدخالها

تساعد لعبة Code Murder Mystery 2 اللاعبين على اختيار المزيد من جلود السكاكين لشخصياتهم أو الحصول على المزيد من الأموال لاستخدامها في الخدمات وشراء أشياء أخرى في اللعبة.

28 تصميمًا جميلًا لبطاقات عيد الميلاد مع تمنيات طيبة للوالدين والأزواج والعشاق والأصدقاء

28 تصميمًا جميلًا لبطاقات عيد الميلاد مع تمنيات طيبة للوالدين والأزواج والعشاق والأصدقاء

في عيد ميلاد حبيبك، ووالديك، وأصدقائك، وإخوتك، وزملائك... بالإضافة إلى الهدايا، لا تنس إرسال بطاقات عيد الميلاد مع التمنيات.

ألغاز مغازلة مضحكة ولكنها حلوة ستأسر قلب من تحب

ألغاز مغازلة مضحكة ولكنها حلوة ستأسر قلب من تحب

ستساعدك هذه الاختبارات الممتعة على ترك انطباع قوي وكسب قلب الشخص الذي تحبه بسرعة وسعادة.

Corki DTCL الموسم 7: بناء العناصر، فرقة Corki Gunner القياسية

Corki DTCL الموسم 7: بناء العناصر، فرقة Corki Gunner القياسية

يحتاج Corki DTCL الموسم 7 إلى الحماية أو الدعم للتسبب في السيطرة إذا كان يريد أن يكون حراً في تدمير فريق العدو. في الوقت نفسه، يجب أن تكون معدات كوركي قياسية أيضًا لتكون قادرة على إحداث ضرر أكثر فعالية.

كيفية تنزيل Mini World Royale وتعليمات حول كيفية اللعب

كيفية تنزيل Mini World Royale وتعليمات حول كيفية اللعب

إليكم رابط تنزيل Mini World Royale وتعليمات اللعب، سيكون لدينا نسختين: Mini World Royale APK و Mini World Royale iOS.

ما هو 1314؟

ما هو 1314؟

1314 هو رقم يستخدمه الشباب عادة كرمز للحب. ولكن هل يعلم الجميع ما هو الرقم 1314 وماذا يعني؟

كيفية حماية صحتك العقلية والجسدية في بيئة سامة

كيفية حماية صحتك العقلية والجسدية في بيئة سامة

يمكن أن يكون التعامل مع المواقف السامة صعبًا للغاية. فيما يلي بعض النصائح التي قد تساعدك على التعامل مع البيئات السامة بلباقة والحفاظ على راحة البال.

طرق تحفيز الموسيقى للدماغ

طرق تحفيز الموسيقى للدماغ

يعلم معظم الناس أن الموسيقى ليست للترفيه فقط بل لها فوائد أكثر من ذلك بكثير. فيما يلي بعض الطرق التي تحفز بها الموسيقى نمو أدمغتنا.

العناصر الغذائية الأكثر نقصًا في النظام الغذائي

العناصر الغذائية الأكثر نقصًا في النظام الغذائي

النظام الغذائي مهم جدًا لصحتنا. ومع ذلك، فإن معظم أنظمتنا الغذائية غالباً ما تفتقر إلى هذه العناصر الغذائية الستة المهمة.

كيفية استخدام تطبيق CK Club التابع لـ Circle K لتلقي عروض جذابة

كيفية استخدام تطبيق CK Club التابع لـ Circle K لتلقي عروض جذابة

للحصول على أسرع المعلومات الترويجية من Circle K، يجب عليك تثبيت تطبيق CK Club. يقوم التطبيق بحفظ المدفوعات عند التسوق أو الدفع في Circle K بالإضافة إلى عدد الطوابع المجمعة.

إنستغرام سيسمح بإنشاء مقاطع فيديو تصل مدتها إلى 3 دقائق

إنستغرام سيسمح بإنشاء مقاطع فيديو تصل مدتها إلى 3 دقائق

أعلنت شركة إنستغرام للتو أنها ستسمح للمستخدمين بنشر مقاطع فيديو Reels تصل مدتها إلى 3 دقائق، وهو ضعف الحد السابق البالغ 90 ثانية.

كيفية عرض معلومات وحدة المعالجة المركزية لجهاز Chromebook

كيفية عرض معلومات وحدة المعالجة المركزية لجهاز Chromebook

سترشدك هذه المقالة إلى كيفية عرض معلومات وحدة المعالجة المركزية والتحقق من سرعة وحدة المعالجة المركزية مباشرة على جهاز Chromebook الخاص بك.

8 أشياء رائعة يمكنك القيام بها باستخدام جهازك اللوحي القديم الذي يعمل بنظام Android

8 أشياء رائعة يمكنك القيام بها باستخدام جهازك اللوحي القديم الذي يعمل بنظام Android

إذا كنت لا ترغب في بيع جهازك اللوحي القديم أو التبرع به، فيمكنك استخدامه بخمس طرق: كإطار صور عالي الجودة، ومشغل موسيقى، وقارئ للكتب الإلكترونية والمجلات، ومساعد في الأعمال المنزلية، وكشاشة ثانوية.

كيفية الحصول على أظافر جميلة بسرعة

كيفية الحصول على أظافر جميلة بسرعة

تريدين الحصول على أظافر جميلة، لامعة، وصحية بسرعة. ستكون هذه النصائح البسيطة للحصول على أظافر جميلة مفيدة لك.