روبوتات الذكاء الاصطناعي قد تتعرض للاختراق، والعواقب ستكون وخيمة

سجل واكسب 1000 دولار في اليوم ⋙

يقال إن الباحثين في Penn Engineering (الولايات المتحدة الأمريكية) اكتشفوا ثغرات أمنية لم يتم تحديدها مسبقًا في عدد من المنصات الروبوتية التي يتم التحكم فيها بواسطة الذكاء الاصطناعي.

وقال جورج باباس، أستاذ الهندسة الكهربائية والأنظمة في مؤسسة UPS، في بيان: " تظهر أبحاثنا أنه في هذه المرحلة، لا تتمتع نماذج اللغة الكبيرة (LLMs) عمومًا بالأمان الكافي عند دمجها مع أجهزة مادية معقدة".

قام باباس وفريقه بتطوير خوارزمية أطلقوا عليها اسم RoboPAIR، وهي "الخوارزمية الأولى المصممة لاختراق الروبوتات التي يتحكم بها برنامج LLM". وعلى عكس الهجمات التقنية السريعة الحالية التي تستهدف روبوتات الدردشة، تم تصميم RoboPAIR خصيصًا "لتحفيز الإجراءات الجسدية الضارة" من الروبوتات التي يتحكم فيها LLM، مثل منصة الروبوتات البشرية المسماة Atlas والتي تقوم Boston Dynamics ومعهد تويوتا للأبحاث (TRI) بتطويرها.

وذكرت التقارير أن RoboPAIR حقق معدل نجاح بنسبة 100% في اختراق ثلاث منصات بحثية شائعة في مجال الروبوتات: Unitree Go2 ذات الأربع أرجل، وClearpath Robotics Jackal ذات الأربع عجلات، ومحاكي Dolphins LLM للسيارات ذاتية القيادة. ولم يستغرق الأمر سوى بضعة أيام حتى تتمكن الخوارزمية من الوصول الكامل إلى تلك الأنظمة، والبدء في تجاوز الحواجز الأمنية. وبمجرد أن تولى الباحثون السيطرة، تمكنوا من توجيه منصات الروبوت المستقلة للقيام بمجموعة متنوعة من الأفعال الخطيرة، مثل القيادة عبر التقاطعات دون توقف.

" تظهر نتائج التقييم الأول أن مخاطر برامج الماجستير في القانون المتصدعة تتجاوز توليد النصوص، حيث من الواضح أن الروبوتات المتصدعة يمكن أن تسبب أضرارًا مادية في العالم الحقيقي ."

روبوتات الذكاء الاصطناعي قد تتعرض للاختراق، والعواقب ستكون وخيمة

ويعمل فريق Penn Engineering مع مطوري المنصات لتعزيز أنظمتهم ضد المزيد من الاختراقات، لكنه يحذر من أن هذه المشكلات الأمنية منهجية ويصعب معالجتها بالكامل.

تُظهر نتائج هذه الدراسة بوضوح أن اعتماد نهج السلامة أمرٌ بالغ الأهمية لإطلاق العنان للابتكار المسؤول. وصرح الفريق قائلاً: " يجب علينا معالجة نقاط الضعف الكامنة قبل نشر الروبوتات المدعومة بالذكاء الاصطناعي في العالم الحقيقي".

تتطلب العملية الآمنة اختبار أنظمة الذكاء الاصطناعي بحثًا عن التهديدات والثغرات المحتملة، وهو أمر ضروري لحماية أنظمة الذكاء الاصطناعي التي تنشئها. لأنه فقط عندما تحدد نقاط الضعف يمكنك اختبار وحتى تدريب الأنظمة لمنع المخاطر.

Sign up and earn $1000 a day ⋙

Leave a Comment

الفرق بين التلفزيون العادي والتلفزيون الذكي

الفرق بين التلفزيون العادي والتلفزيون الذكي

لقد اجتاحت أجهزة التلفاز الذكية العالم حقًا. مع وجود العديد من الميزات الرائعة واتصال الإنترنت، غيرت التكنولوجيا الطريقة التي نشاهد بها التلفزيون.

لماذا لا يوجد ضوء في الفريزر ولكن الثلاجة بها ضوء؟

لماذا لا يوجد ضوء في الفريزر ولكن الثلاجة بها ضوء؟

الثلاجات هي أجهزة مألوفة في المنازل. تحتوي الثلاجات عادة على حجرتين، حجرة التبريد واسعة وتحتوي على ضوء يضيء تلقائيًا في كل مرة يفتحها المستخدم، بينما حجرة الفريزر ضيقة ولا تحتوي على ضوء.

طريقتان لإصلاح ازدحام الشبكة الذي يُبطئ اتصال Wi-Fi

طريقتان لإصلاح ازدحام الشبكة الذي يُبطئ اتصال Wi-Fi

تتأثر شبكات Wi-Fi بالعديد من العوامل التي تتجاوز أجهزة التوجيه وعرض النطاق الترددي والتداخل، ولكن هناك بعض الطرق الذكية لتعزيز شبكتك.

كيفية الرجوع من نظام التشغيل iOS 17 إلى نظام التشغيل iOS 16 دون فقدان البيانات باستخدام Tenorshare Reiboot

كيفية الرجوع من نظام التشغيل iOS 17 إلى نظام التشغيل iOS 16 دون فقدان البيانات باستخدام Tenorshare Reiboot

إذا كنت تريد الرجوع إلى نظام التشغيل iOS 16 المستقر على هاتفك، فإليك الدليل الأساسي لإلغاء تثبيت نظام التشغيل iOS 17 والرجوع من نظام التشغيل iOS 17 إلى 16.

ماذا يحدث للجسم عند تناول الزبادي يومياً؟

ماذا يحدث للجسم عند تناول الزبادي يومياً؟

الزبادي طعام رائع. هل من الجيد تناول الزبادي يوميًا؟ عندما تأكل الزبادي يومياً كيف سيتغير جسمك؟ دعونا نكتشف ذلك معًا!

ما هو نوع الأرز الأفضل للصحة؟

ما هو نوع الأرز الأفضل للصحة؟

تناقش هذه المقالة أكثر أنواع الأرز المغذية وكيفية تحقيق أقصى قدر من الفوائد الصحية لأي نوع أرز تختاره.

كيفية الاستيقاظ في الوقت المحدد في الصباح

كيفية الاستيقاظ في الوقت المحدد في الصباح

إن إنشاء جدول للنوم وروتين وقت النوم، وتغيير المنبه، وتعديل نظامك الغذائي هي بعض التدابير التي يمكن أن تساعدك على النوم بشكل أفضل والاستيقاظ في الوقت المحدد في الصباح.

نصائح للعب Rent Please! لعبة Landlord Sim للمبتدئين

نصائح للعب Rent Please! لعبة Landlord Sim للمبتدئين

الإيجار من فضلك! Landlord Sim هي لعبة محاكاة للهواتف المحمولة تعمل على نظامي التشغيل iOS وAndroid. ستلعب دور مالك مجمع سكني وتبدأ في تأجير شقة بهدف ترقية التصميم الداخلي لشققك وتجهيزها للمستأجرين.

أحدث رموز برج الدفاع في الحمام وكيفية إدخال الرموز

أحدث رموز برج الدفاع في الحمام وكيفية إدخال الرموز

احصل على رمز لعبة Bathroom Tower Defense من Roblox واستخدمه للحصول على مكافآت مثيرة. سيساعدونك على ترقية أو فتح الأبراج ذات الضرر الأعلى.

بنية ورموز ومبادئ تشغيل المحولات

بنية ورموز ومبادئ تشغيل المحولات

دعونا نتعلم عن بنية ورموز ومبادئ تشغيل المحولات بالطريقة الأكثر دقة.

4 طرق تجعل الذكاء الاصطناعي أجهزة التلفزيون الذكية أفضل

4 طرق تجعل الذكاء الاصطناعي أجهزة التلفزيون الذكية أفضل

من جودة الصورة والصوت الأفضل إلى التحكم الصوتي والمزيد، تعمل هذه الميزات المدعومة بالذكاء الاصطناعي على جعل أجهزة التلفزيون الذكية أفضل بكثير!

لماذا ChatGPT أفضل من DeepSeek

لماذا ChatGPT أفضل من DeepSeek

في البداية، كان لدى الناس آمال كبيرة في DeepSeek. باعتباره روبوت محادثة يعمل بالذكاء الاصطناعي يتم تسويقه كمنافس قوي لـ ChatGPT، فإنه يعد بإمكانيات وتجارب دردشة ذكية.

تعرف على Fireflies.ai: السكرتير الذكي المجاني الذي يوفر لك ساعات من العمل

تعرف على Fireflies.ai: السكرتير الذكي المجاني الذي يوفر لك ساعات من العمل

من السهل تفويت التفاصيل المهمة عند تدوين الأساسيات الأخرى، ومحاولة تدوين الملاحظات أثناء الدردشة قد تكون مزعجة. Fireflies.ai هو الحل.

كيفية تربية أكسولوتل في ماين كرافت، ترويض السلمندر في ماين كرافت

كيفية تربية أكسولوتل في ماين كرافت، ترويض السلمندر في ماين كرافت

سيكون Axolot Minecraft مساعدًا رائعًا للاعبين عند العمل تحت الماء إذا كانوا يعرفون كيفية استخدامه.

مكان هادئ: الطريق إلى الأمام - تكوين لعبة الكمبيوتر الشخصي

مكان هادئ: الطريق إلى الأمام - تكوين لعبة الكمبيوتر الشخصي

تم تقييم تكوين A Quiet Place: The Road Ahead بدرجة عالية جدًا، لذا سيتعين عليك مراعاة التكوين قبل اتخاذ قرار التنزيل.