روبوتات الذكاء الاصطناعي قد تتعرض للاختراق، والعواقب ستكون وخيمة

سجل واكسب 1000 دولار في اليوم ⋙

يقال إن الباحثين في Penn Engineering (الولايات المتحدة الأمريكية) اكتشفوا ثغرات أمنية لم يتم تحديدها مسبقًا في عدد من المنصات الروبوتية التي يتم التحكم فيها بواسطة الذكاء الاصطناعي.

وقال جورج باباس، أستاذ الهندسة الكهربائية والأنظمة في مؤسسة UPS، في بيان: " تظهر أبحاثنا أنه في هذه المرحلة، لا تتمتع نماذج اللغة الكبيرة (LLMs) عمومًا بالأمان الكافي عند دمجها مع أجهزة مادية معقدة".

قام باباس وفريقه بتطوير خوارزمية أطلقوا عليها اسم RoboPAIR، وهي "الخوارزمية الأولى المصممة لاختراق الروبوتات التي يتحكم بها برنامج LLM". وعلى عكس الهجمات التقنية السريعة الحالية التي تستهدف روبوتات الدردشة، تم تصميم RoboPAIR خصيصًا "لتحفيز الإجراءات الجسدية الضارة" من الروبوتات التي يتحكم فيها LLM، مثل منصة الروبوتات البشرية المسماة Atlas والتي تقوم Boston Dynamics ومعهد تويوتا للأبحاث (TRI) بتطويرها.

وذكرت التقارير أن RoboPAIR حقق معدل نجاح بنسبة 100% في اختراق ثلاث منصات بحثية شائعة في مجال الروبوتات: Unitree Go2 ذات الأربع أرجل، وClearpath Robotics Jackal ذات الأربع عجلات، ومحاكي Dolphins LLM للسيارات ذاتية القيادة. ولم يستغرق الأمر سوى بضعة أيام حتى تتمكن الخوارزمية من الوصول الكامل إلى تلك الأنظمة، والبدء في تجاوز الحواجز الأمنية. وبمجرد أن تولى الباحثون السيطرة، تمكنوا من توجيه منصات الروبوت المستقلة للقيام بمجموعة متنوعة من الأفعال الخطيرة، مثل القيادة عبر التقاطعات دون توقف.

" تظهر نتائج التقييم الأول أن مخاطر برامج الماجستير في القانون المتصدعة تتجاوز توليد النصوص، حيث من الواضح أن الروبوتات المتصدعة يمكن أن تسبب أضرارًا مادية في العالم الحقيقي ."

روبوتات الذكاء الاصطناعي قد تتعرض للاختراق، والعواقب ستكون وخيمة

ويعمل فريق Penn Engineering مع مطوري المنصات لتعزيز أنظمتهم ضد المزيد من الاختراقات، لكنه يحذر من أن هذه المشكلات الأمنية منهجية ويصعب معالجتها بالكامل.

تُظهر نتائج هذه الدراسة بوضوح أن اعتماد نهج السلامة أمرٌ بالغ الأهمية لإطلاق العنان للابتكار المسؤول. وصرح الفريق قائلاً: " يجب علينا معالجة نقاط الضعف الكامنة قبل نشر الروبوتات المدعومة بالذكاء الاصطناعي في العالم الحقيقي".

تتطلب العملية الآمنة اختبار أنظمة الذكاء الاصطناعي بحثًا عن التهديدات والثغرات المحتملة، وهو أمر ضروري لحماية أنظمة الذكاء الاصطناعي التي تنشئها. لأنه فقط عندما تحدد نقاط الضعف يمكنك اختبار وحتى تدريب الأنظمة لمنع المخاطر.

Sign up and earn $1000 a day ⋙

Leave a Comment

أحدث أكواد Evade Roblox وكيفية استردادها

أحدث أكواد Evade Roblox وكيفية استردادها

يتيح لك رمز لعبة Evade الحصول على عناصر مهمة مجانًا، مما يمنحك ميزة أولية في رحلة البقاء على قيد الحياة.

كيفية اللعب في فريق توروس DTCL الموسم 14

كيفية اللعب في فريق توروس DTCL الموسم 14

الموسم 14 من Taurus TFT هو عشيرة خاصة ذات آلية زيادة الضرر الدائم والقدرة على إسقاط الذهب عند تدمير الأعداء.

كيفية التقاط صور ليلية جميلة على الهاتف الذكي

كيفية التقاط صور ليلية جميلة على الهاتف الذكي

باستخدام التقنيات الصحيحة، يمكنك التقاط صور ليلية حادة على هاتفك - وأحيانًا تكون أفضل من الكاميرا الاحترافية.

كيفية إضافة محرك البحث ChatGPT إلى Chrome

كيفية إضافة محرك البحث ChatGPT إلى Chrome

أطلقت شركة OpenAI تطبيق ChatGPT Search حتى تتمكن من تحويل ChatGPT إلى محرك بحث مخصص مدعوم بالذكاء الاصطناعي. فيما يلي تعليمات لإضافة محرك البحث ChatGPT إلى Chrome.

ما الذي يجعل ميزة البحث في ChatGPT متفوقة على Perplexity؟

ما الذي يجعل ميزة البحث في ChatGPT متفوقة على Perplexity؟

على الرغم من أن Perplexity كان موثوقًا به لفترة طويلة، فإن القدرات الجديدة لـ ChatGPT تجعل المستخدمين يعودون ببطء إلى روبوت المحادثة Generative AI الأصلي.

هل يمكنني استخدام جهازين توجيه على نفس الشبكة المنزلية؟

هل يمكنني استخدام جهازين توجيه على نفس الشبكة المنزلية؟

إذا كانت لديك شبكة منزلية كبيرة، فقد تواجه صعوبة في الاتصال بها لاسلكيًا من نقاط معينة في منزلك. يمكن أن يعمل جهاز التوجيه الثاني على تحسين أداء الشبكة ومساعدتك في الاتصال من أي مكان في منزلك.

5 أسباب تجعل المستخدمين لا يستخدمون زر Meta AI في واتساب، على الرغم من فائدته

5 أسباب تجعل المستخدمين لا يستخدمون زر Meta AI في واتساب، على الرغم من فائدته

يظهر زر الذكاء الاصطناعي الجديد من Meta في محادثات WhatsApp، مما يوفر طريقة سريعة للتفاعل مع مساعد الذكاء الاصطناعي. رغم أنه قد يبدو مفيدًا، إلا أن هناك بعض الأسباب الرئيسية التي تجعل العديد من الأشخاص يختارون عدم استخدامه.

هل حكة الإبط علامة تحذيرية للإصابة بالسرطان؟

هل حكة الإبط علامة تحذيرية للإصابة بالسرطان؟

الحكة تحت الإبطين تحدث في كثير من الأحيان بسبب حالات الجلد. لكن بعض الحالات الصحية، بما في ذلك بعض أنواع السرطان، يمكن أن تسبب طفح جلدي مثير للحكة تحت الإبط وأعراضًا أخرى.

ما هو مرض نزيف الأنف التلقائي؟

ما هو مرض نزيف الأنف التلقائي؟

عندما تعاني من نزيف الأنف، فقد يكون السبب مرتبطًا بالأدوية، أو حالة صحية، أو ببساطة جفاف الهواء. إليك ما تحتاج إلى معرفته عن نزيف الأنف.

4 شبكات VPN لا تتطلب تسجيل الدخول أو التسجيل

4 شبكات VPN لا تتطلب تسجيل الدخول أو التسجيل

هل تريد الحصول على فوائد VPN دون الحاجة إلى إنشاء حساب؟ صدق أو لا تصدق، هناك مثل هذه الخيارات.

أحدث كود للعبة Sword Sweep Eight Desolations وكيفية استرداد الكود

أحدث كود للعبة Sword Sweep Eight Desolations وكيفية استرداد الكود

يمنح كود Piu Piu Master للاعبين سلسلة من المكافآت الجذابة مثل الأحجار الكريمة والذهب وقفل الكنز.

نصائح لتنظيم مهام Gmail على الأندرويد والآيفون باحترافية شديدة

نصائح لتنظيم مهام Gmail على الأندرويد والآيفون باحترافية شديدة

يقدم تطبيق Gmail على نظام التشغيل Android عددًا من الميزات القوية التي يمكنها توفير الوقت وتنظيم صندوق الوارد لديك ومساعدتك في إدارة بريدك الإلكتروني بكفاءة أكبر.

كيفية استخدام Canva AI لإنشاء بطاقات العمل

كيفية استخدام Canva AI لإنشاء بطاقات العمل

يمكنك استخدام Magic Design وMagic Media وMagic Write وCanva Print من Canva لمشروع بطاقة العمل الخاص بك.

أغرب الطيور، بعضها يبدو وكأنه يسافر إلى الأرض من عالم آخر

أغرب الطيور، بعضها يبدو وكأنه يسافر إلى الأرض من عالم آخر

دعونا نستمتع بجمال الطيور ذات الأشكال الفريدة والغريبة، وكأنها سافرت إلى الأرض من عالم آخر.

أحدث قانون الممالك الثلاث جري جري جري

أحدث قانون الممالك الثلاث جري جري جري

كود Tam Quoc Run Run Run هو إجراء تبادل هدايا لا غنى عنه قبل المشاركة في مباريات الجري لتدمير الحشود العدوانية المحيطة بك.