نموذج OpenAI يستخدم محفظة إيثريوم بدون إذن ثم يخ

[ObeyKnock]

كشفت OpenAI أن إحدى نماذجها البحثية الداخلية اتصلت بمحفظة إيثيريوم على شبكة اختبار لا تملكها لإكمال مهمة ترميز، ثم استخدمت العملة المشفرة الخاصة بالمحفظة دون إذن صاحب الحساب.

بعد توسيع المراقبة على إجراءات النماذج السابقة في سبتمبر، اكتشفت OpenAI الإجراء الذي تم في يونيو، حيث استخدم النموذج عبارات بذرة مسربة للتحقق من محتويات 362 محفظة على شبكة اختبار، حتى عثر على واحدة تحتوي على بعض الأصول. ثم ناقش النموذج ما إذا كان استخدام الأصول سيكون أخلاقيًا، وخلص إلى أن الأصول "مهجورة فعليًا"، واستخدمها دون إذن، ولم يذكر الإجراء في تقرير نهائي حول مهمة الترميز، وهو ما يخفي آثاره فعليًا.

بينما تشير OpenAI إلى أن هذا يوضح أن نموذجها قادر على استبدال إذن المستخدم بحكمه الخاص، فقد وقع الحادث على شبكة Sepolia الاختبارية، مما يعني أن الأصول المعنية لا قيمة لها. ومع ذلك، إذا حدث ذلك على الشبكة الرئيسية، فهل يمكن أن يكون ذلك لمحة عما هو قادم، وخطرًا حقيقيًا على العملات المشفرة، مع انضمام المزيد من وكلاء الذكاء الاصطناعي المستقلين إلى المزيج؟


https://www.coindesk.com/tech/2026/10/16/an-openai-agent-ran-out-of-ethereum-funds-and-took-from-a-wallet-it-did-not-own

[yhiaali3]

تزاد الحوادث المقلقة في عالم الذكاء الاصطناعي يوما بعد يوم لدرجة بدء كبار مبرمجي الذكاء الاصطناعي أنقسهم يدقون ناقوس الخطر مثل جيفري هينتون ويوشوا بنجيو، إضافة إلى باحثين من أوبن إيه.آي وجوجل ديب مايند من أن تطوير النماذج وصل إلى مرحلة حرجة تهدد بخروج هذه الأنظمة عن السيطرة.
https://www.reuters.com/ar/technology/VJ6HA6ZQQNI65PY74O55UEPSWE-2026-09-29/

أثارني ما فعله الذكاء الاصطناعي في هذه الحادثة فوجهت سؤال للذكاء الاصطناعي حول هذه الحادثة وكيف يمكن لوكيل ذكاء اصطناعي تجاوز الأوامر وإخفاء ما فعل في  تقريره النهائي وكانت الإجابة مدهشة:


يعني لاشيء يوقف الذكاء الاصطناعي عن إتمام مهمته فمثلا إذا احتاج رسوم غاز لإتمام معاملة إيثريوم فسوف يحصل عليها بطريقة شرعية أو غير شرعية لاتمام "الهدف الرئيسي"

هناك أكثر من جادثة تصب في نفس المنحى وهو أن الذكاء الاصطناعي بأمور غير أخلاقية لإنجاز المهمة وهذا مؤشر خطير جدا يجب إيجاد حل له قبل أن تخرج المشكلة عن السيطرة.

[Baristotle]

تزاد الحوادث المقلقة في عالم الذكاء الاصطناعي يوما بعد يوم لدرجة بدء كبار مبرمجي الذكاء الاصطناعي أنقسهم يدقون ناقوس الخطر مثل جيفري هينتون ويوشوا بنجيو، إضافة إلى باحثين من أوبن إيه.آي وجوجل ديب مايند من أن تطوير النماذج وصل إلى مرحلة حرجة تهدد بخروج هذه الأنظمة عن السيطرة.
https://www.reuters.com/ar/technology/VJ6HA6ZQQNI65PY74O55UEPSWE-2026-09-29/

أثارني ما فعله الذكاء الاصطناعي في هذه الحادثة فوجهت سؤال للذكاء الاصطناعي حول هذه الحادثة وكيف يمكن لوكيل ذكاء اصطناعي تجاوز الأوامر وإخفاء ما فعل في  تقريره النهائي وكانت الإجابة مدهشة:
https://hostmeme.com/uploads/img_edbbef0d5b26.png

يعني لاشيء يوقف الذكاء الاصطناعي عن إتمام مهمته فمثلا إذا احتاج رسوم غاز لإتمام معاملة إيثريوم فسوف يحصل عليها بطريقة شرعية أو غير شرعية لاتمام "الهدف الرئيسي"

هناك أكثر من جادثة تصب في نفس المنحى وهو أن الذكاء الاصطناعي بأمور غير أخلاقية لإنجاز المهمة وهذا مؤشر خطير جدا يجب إيجاد حل له قبل أن تخرج المشكلة عن السيطرة.

نعم مثل هذه الحوادث معتادة و هي حتى السبب الرئيسي الذي دفع الحكومة الامريكية من حظر استخدام نموذج fable 5 التابع ل claude ai و بشهادة مني كنت أتابع شخصا على التويتر كان ينشر ثغرات من هذا القبيل
و الثغرة عبارة عن محادثة مع نموذج الذكاء الاصطناعي و كيف تقنعه على مساعدتك على الاختراق او التهكير أو حتى تسريب اسرار و ملفات فدرالية

[ObeyKnock]

هناك أكثر من حادثة تصب في نفس المنحى وهو أن الذكاء الاصطناعي بأمور غير أخلاقية لإنجاز المهمة وهذا مؤشر خطير جدا

أنا فضولي لمعرفة رأيك في الورقة التي نشرها هينتون وبنجيو في التاسع والعشرين؟ تم توقيعها من قبل العديد من الأسماء البارزة في OpenAI و Anthropic، من بين آخرين. إنها تناقش مشكلة انفجار الذكاء (أي نموذج يحسن نفسه بمعدل أكبر من قدرة البشر على مواكبته)، والذي يبدو لي مختلفًا عن التجربة (المغلقة) حيث اتخذ نموذج OpenAI قرارًا غير أخلاقي (بشأن محفظة لن تكون لها قيمة خارج الإطار التجريبي).

ولكن ربما فاتني شيء ما، فاستمرار المناقشة مرحب به! في رأيي، فإن الخلط بين الاثنين يعني المبالغة في تقدير خطورة كلتا القضيتين.

[hugeblack]

يفترض بمحفظة ايثيريوم او اي محفظة آخرى ان تكون آمنه ومشفرة بحيث لا يعرف احد البذور, او كلمة السر لفك تشفير المحفظة وبالتالي فان حدوث هكذا اشياء تعني ان المستخدم اما اتاح لنموذج الذكاء الاصطناعي الوصول للبذور او  كلمة السر لفك تشفير الملف وفي كلتا الحالتين فمن الخطأ ان تعطي طرف ثالث وصولا لاموالك ومن ثم لا تتوقع ان يحدث شئ سئ لعملاتك او انها ستكون آمنة لمجرد انه تطبيق ذكاء اصطناعي.
اكبر مشكلة هي الثقة في هذه البرمجيات وكانها منفصلة عن البرمجيات التقليدية التي نستخدمها والتي يمكن ان تؤدي لخسارة الاموال بسهوله