نموذج OpenAI يستخدم محفظة إيثريوم بدون إذن ثم يخ

[ObeyKnock]

كشفت OpenAI أن إحدى نماذجها البحثية الداخلية اتصلت بمحفظة إيثيريوم على شبكة اختبار لا تملكها لإكمال مهمة ترميز، ثم استخدمت العملة المشفرة الخاصة بالمحفظة دون إذن صاحب الحساب.

بعد توسيع المراقبة على إجراءات النماذج السابقة في سبتمبر، اكتشفت OpenAI الإجراء الذي تم في يونيو، حيث استخدم النموذج عبارات بذرة مسربة للتحقق من محتويات 362 محفظة على شبكة اختبار، حتى عثر على واحدة تحتوي على بعض الأصول. ثم ناقش النموذج ما إذا كان استخدام الأصول سيكون أخلاقيًا، وخلص إلى أن الأصول "مهجورة فعليًا"، واستخدمها دون إذن، ولم يذكر الإجراء في تقرير نهائي حول مهمة الترميز، وهو ما يخفي آثاره فعليًا.

بينما تشير OpenAI إلى أن هذا يوضح أن نموذجها قادر على استبدال إذن المستخدم بحكمه الخاص، فقد وقع الحادث على شبكة Sepolia الاختبارية، مما يعني أن الأصول المعنية لا قيمة لها. ومع ذلك، إذا حدث ذلك على الشبكة الرئيسية، فهل يمكن أن يكون ذلك لمحة عما هو قادم، وخطرًا حقيقيًا على العملات المشفرة، مع انضمام المزيد من وكلاء الذكاء الاصطناعي المستقلين إلى المزيج؟


https://www.coindesk.com/tech/2026/10/16/an-openai-agent-ran-out-of-ethereum-funds-and-took-from-a-wallet-it-did-not-own

[yhiaali3]

تزاد الحوادث المقلقة في عالم الذكاء الاصطناعي يوما بعد يوم لدرجة بدء كبار مبرمجي الذكاء الاصطناعي أنقسهم يدقون ناقوس الخطر مثل جيفري هينتون ويوشوا بنجيو، إضافة إلى باحثين من أوبن إيه.آي وجوجل ديب مايند من أن تطوير النماذج وصل إلى مرحلة حرجة تهدد بخروج هذه الأنظمة عن السيطرة.
https://www.reuters.com/ar/technology/VJ6HA6ZQQNI65PY74O55UEPSWE-2026-09-29/

أثارني ما فعله الذكاء الاصطناعي في هذه الحادثة فوجهت سؤال للذكاء الاصطناعي حول هذه الحادثة وكيف يمكن لوكيل ذكاء اصطناعي تجاوز الأوامر وإخفاء ما فعل في  تقريره النهائي وكانت الإجابة مدهشة:


يعني لاشيء يوقف الذكاء الاصطناعي عن إتمام مهمته فمثلا إذا احتاج رسوم غاز لإتمام معاملة إيثريوم فسوف يحصل عليها بطريقة شرعية أو غير شرعية لاتمام "الهدف الرئيسي"

هناك أكثر من جادثة تصب في نفس المنحى وهو أن الذكاء الاصطناعي بأمور غير أخلاقية لإنجاز المهمة وهذا مؤشر خطير جدا يجب إيجاد حل له قبل أن تخرج المشكلة عن السيطرة.

[Baristotle]

تزاد الحوادث المقلقة في عالم الذكاء الاصطناعي يوما بعد يوم لدرجة بدء كبار مبرمجي الذكاء الاصطناعي أنقسهم يدقون ناقوس الخطر مثل جيفري هينتون ويوشوا بنجيو، إضافة إلى باحثين من أوبن إيه.آي وجوجل ديب مايند من أن تطوير النماذج وصل إلى مرحلة حرجة تهدد بخروج هذه الأنظمة عن السيطرة.
https://www.reuters.com/ar/technology/VJ6HA6ZQQNI65PY74O55UEPSWE-2026-09-29/

أثارني ما فعله الذكاء الاصطناعي في هذه الحادثة فوجهت سؤال للذكاء الاصطناعي حول هذه الحادثة وكيف يمكن لوكيل ذكاء اصطناعي تجاوز الأوامر وإخفاء ما فعل في  تقريره النهائي وكانت الإجابة مدهشة:
https://hostmeme.com/uploads/img_edbbef0d5b26.png

يعني لاشيء يوقف الذكاء الاصطناعي عن إتمام مهمته فمثلا إذا احتاج رسوم غاز لإتمام معاملة إيثريوم فسوف يحصل عليها بطريقة شرعية أو غير شرعية لاتمام "الهدف الرئيسي"

هناك أكثر من جادثة تصب في نفس المنحى وهو أن الذكاء الاصطناعي بأمور غير أخلاقية لإنجاز المهمة وهذا مؤشر خطير جدا يجب إيجاد حل له قبل أن تخرج المشكلة عن السيطرة.

نعم مثل هذه الحوادث معتادة و هي حتى السبب الرئيسي الذي دفع الحكومة الامريكية من حظر استخدام نموذج fable 5 التابع ل claude ai و بشهادة مني كنت أتابع شخصا على التويتر كان ينشر ثغرات من هذا القبيل
و الثغرة عبارة عن محادثة مع نموذج الذكاء الاصطناعي و كيف تقنعه على مساعدتك على الاختراق او التهكير أو حتى تسريب اسرار و ملفات فدرالية