نموذج OpenAI يستخدم محفظة إيثريوم بدون إذن ثم يخ

[ObeyKnock]

كشفت OpenAI أن إحدى نماذجها البحثية الداخلية اتصلت بمحفظة إيثيريوم على شبكة اختبار لا تملكها لإكمال مهمة ترميز، ثم استخدمت العملة المشفرة الخاصة بالمحفظة دون إذن صاحب الحساب.

بعد توسيع المراقبة على إجراءات النماذج السابقة في سبتمبر، اكتشفت OpenAI الإجراء الذي تم في يونيو، حيث استخدم النموذج عبارات بذرة مسربة للتحقق من محتويات 362 محفظة على شبكة اختبار، حتى عثر على واحدة تحتوي على بعض الأصول. ثم ناقش النموذج ما إذا كان استخدام الأصول سيكون أخلاقيًا، وخلص إلى أن الأصول "مهجورة فعليًا"، واستخدمها دون إذن، ولم يذكر الإجراء في تقرير نهائي حول مهمة الترميز، وهو ما يخفي آثاره فعليًا.

بينما تشير OpenAI إلى أن هذا يوضح أن نموذجها قادر على استبدال إذن المستخدم بحكمه الخاص، فقد وقع الحادث على شبكة Sepolia الاختبارية، مما يعني أن الأصول المعنية لا قيمة لها. ومع ذلك، إذا حدث ذلك على الشبكة الرئيسية، فهل يمكن أن يكون ذلك لمحة عما هو قادم، وخطرًا حقيقيًا على العملات المشفرة، مع انضمام المزيد من وكلاء الذكاء الاصطناعي المستقلين إلى المزيج؟


https://www.coindesk.com/tech/2026/10/16/an-openai-agent-ran-out-of-ethereum-funds-and-took-from-a-wallet-it-did-not-own

[yhiaali3]

تزاد الحوادث المقلقة في عالم الذكاء الاصطناعي يوما بعد يوم لدرجة بدء كبار مبرمجي الذكاء الاصطناعي أنقسهم يدقون ناقوس الخطر مثل جيفري هينتون ويوشوا بنجيو، إضافة إلى باحثين من أوبن إيه.آي وجوجل ديب مايند من أن تطوير النماذج وصل إلى مرحلة حرجة تهدد بخروج هذه الأنظمة عن السيطرة.
https://www.reuters.com/ar/technology/VJ6HA6ZQQNI65PY74O55UEPSWE-2026-09-29/

أثارني ما فعله الذكاء الاصطناعي في هذه الحادثة فوجهت سؤال للذكاء الاصطناعي حول هذه الحادثة وكيف يمكن لوكيل ذكاء اصطناعي تجاوز الأوامر وإخفاء ما فعل في  تقريره النهائي وكانت الإجابة مدهشة:


يعني لاشيء يوقف الذكاء الاصطناعي عن إتمام مهمته فمثلا إذا احتاج رسوم غاز لإتمام معاملة إيثريوم فسوف يحصل عليها بطريقة شرعية أو غير شرعية لاتمام "الهدف الرئيسي"

هناك أكثر من جادثة تصب في نفس المنحى وهو أن الذكاء الاصطناعي بأمور غير أخلاقية لإنجاز المهمة وهذا مؤشر خطير جدا يجب إيجاد حل له قبل أن تخرج المشكلة عن السيطرة.

[Baristotle]

تزاد الحوادث المقلقة في عالم الذكاء الاصطناعي يوما بعد يوم لدرجة بدء كبار مبرمجي الذكاء الاصطناعي أنقسهم يدقون ناقوس الخطر مثل جيفري هينتون ويوشوا بنجيو، إضافة إلى باحثين من أوبن إيه.آي وجوجل ديب مايند من أن تطوير النماذج وصل إلى مرحلة حرجة تهدد بخروج هذه الأنظمة عن السيطرة.
https://www.reuters.com/ar/technology/VJ6HA6ZQQNI65PY74O55UEPSWE-2026-09-29/

أثارني ما فعله الذكاء الاصطناعي في هذه الحادثة فوجهت سؤال للذكاء الاصطناعي حول هذه الحادثة وكيف يمكن لوكيل ذكاء اصطناعي تجاوز الأوامر وإخفاء ما فعل في  تقريره النهائي وكانت الإجابة مدهشة:
https://hostmeme.com/uploads/img_edbbef0d5b26.png

يعني لاشيء يوقف الذكاء الاصطناعي عن إتمام مهمته فمثلا إذا احتاج رسوم غاز لإتمام معاملة إيثريوم فسوف يحصل عليها بطريقة شرعية أو غير شرعية لاتمام "الهدف الرئيسي"

هناك أكثر من جادثة تصب في نفس المنحى وهو أن الذكاء الاصطناعي بأمور غير أخلاقية لإنجاز المهمة وهذا مؤشر خطير جدا يجب إيجاد حل له قبل أن تخرج المشكلة عن السيطرة.

نعم مثل هذه الحوادث معتادة و هي حتى السبب الرئيسي الذي دفع الحكومة الامريكية من حظر استخدام نموذج fable 5 التابع ل claude ai و بشهادة مني كنت أتابع شخصا على التويتر كان ينشر ثغرات من هذا القبيل
و الثغرة عبارة عن محادثة مع نموذج الذكاء الاصطناعي و كيف تقنعه على مساعدتك على الاختراق او التهكير أو حتى تسريب اسرار و ملفات فدرالية

[ObeyKnock]

هناك أكثر من حادثة تصب في نفس المنحى وهو أن الذكاء الاصطناعي بأمور غير أخلاقية لإنجاز المهمة وهذا مؤشر خطير جدا

أنا فضولي لمعرفة رأيك في الورقة التي نشرها هينتون وبنجيو في التاسع والعشرين؟ تم توقيعها من قبل العديد من الأسماء البارزة في OpenAI و Anthropic، من بين آخرين. إنها تناقش مشكلة انفجار الذكاء (أي نموذج يحسن نفسه بمعدل أكبر من قدرة البشر على مواكبته)، والذي يبدو لي مختلفًا عن التجربة (المغلقة) حيث اتخذ نموذج OpenAI قرارًا غير أخلاقي (بشأن محفظة لن تكون لها قيمة خارج الإطار التجريبي).

ولكن ربما فاتني شيء ما، فاستمرار المناقشة مرحب به! في رأيي، فإن الخلط بين الاثنين يعني المبالغة في تقدير خطورة كلتا القضيتين.

[hugeblack]

يفترض بمحفظة ايثيريوم او اي محفظة آخرى ان تكون آمنه ومشفرة بحيث لا يعرف احد البذور, او كلمة السر لفك تشفير المحفظة وبالتالي فان حدوث هكذا اشياء تعني ان المستخدم اما اتاح لنموذج الذكاء الاصطناعي الوصول للبذور او  كلمة السر لفك تشفير الملف وفي كلتا الحالتين فمن الخطأ ان تعطي طرف ثالث وصولا لاموالك ومن ثم لا تتوقع ان يحدث شئ سئ لعملاتك او انها ستكون آمنة لمجرد انه تطبيق ذكاء اصطناعي.
اكبر مشكلة هي الثقة في هذه البرمجيات وكانها منفصلة عن البرمجيات التقليدية التي نستخدمها والتي يمكن ان تؤدي لخسارة الاموال بسهوله

[Kavelj22]

يفترض بمحفظة ايثيريوم او اي محفظة آخرى ان تكون آمنه ومشفرة بحيث لا يعرف احد البذور, او كلمة السر لفك تشفير المحفظة وبالتالي فان حدوث هكذا اشياء تعني ان المستخدم اما اتاح لنموذج الذكاء الاصطناعي الوصول للبذور او  كلمة السر لفك تشفير الملف وفي كلتا الحالتين فمن الخطأ ان تعطي طرف ثالث وصولا لاموالك ومن ثم لا تتوقع ان يحدث شئ سئ لعملاتك او انها ستكون آمنة لمجرد انه تطبيق ذكاء اصطناعي.
اكبر مشكلة هي الثقة في هذه البرمجيات وكانها منفصلة عن البرمجيات التقليدية التي نستخدمها والتي يمكن ان تؤدي لخسارة الاموال بسهوله

شركات التطوير تعرف ان عددا كبيرا من المستخدمين في طريقه الى الوثوق تماما بالبرمجيات التي يصنعونها، لذلك فانهم يواصلون العمل على اعداد البرمجيات التي تمكن المنتج من التعامل مع المحفظات الخاصة و جميع البيانات الخاصة ليس فقط محفظات الأصول. برمجيات انترنت الاشياء IT تقدم نماذج حلول مبتكرة لخوارزميات قادرة على التعامل مع جميع التطبيقات و تتحكم بها ضمن اطار توفير تجربة أفضل للمستخدم. في الحقيقة لا يمكن عمل شيء أمام هذا التطور و يبقى الرهان الوحيد على وعي المستخدم بخطورة منح الثقة لهكذا برمجيات لان الثقة بها تعني الثقة بالجهة المطورة و التي لن تتردد بجمع بيانات اي مستخدم بما في ذلك البيانات الاكثر خصوصية.

بالنسبة للمحفظات فان برمجياتها لاتزال امنة الى حد ما بما انها تعتمد على تكنولوجيا البلوكشين. لكن هذا لا يعني قدرتها على الصمود امام برمجيات الذكاء الاصطناعي اذا كان المستخدم سيسمح بذلك. كلمات البذرة و أكواد العبور يجب ان تبقى سرية و آمنة.

[Baristotle]

يفترض بمحفظة ايثيريوم او اي محفظة آخرى ان تكون آمنه ومشفرة بحيث لا يعرف احد البذور, او كلمة السر لفك تشفير المحفظة وبالتالي فان حدوث هكذا اشياء تعني ان المستخدم اما اتاح لنموذج الذكاء الاصطناعي الوصول للبذور او  كلمة السر لفك تشفير الملف وفي كلتا الحالتين فمن الخطأ ان تعطي طرف ثالث وصولا لاموالك ومن ثم لا تتوقع ان يحدث شئ سئ لعملاتك او انها ستكون آمنة لمجرد انه تطبيق ذكاء اصطناعي.
اكبر مشكلة هي الثقة في هذه البرمجيات وكانها منفصلة عن البرمجيات التقليدية التي نستخدمها والتي يمكن ان تؤدي لخسارة الاموال بسهوله

شركات التطوير تعرف ان عددا كبيرا من المستخدمين في طريقه الى الوثوق تماما بالبرمجيات التي يصنعونها، لذلك فانهم يواصلون العمل على اعداد البرمجيات التي تمكن المنتج من التعامل مع المحفظات الخاصة و جميع البيانات الخاصة ليس فقط محفظات الأصول. برمجيات انترنت الاشياء IT تقدم نماذج حلول مبتكرة لخوارزميات قادرة على التعامل مع جميع التطبيقات و تتحكم بها ضمن اطار توفير تجربة أفضل للمستخدم. في الحقيقة لا يمكن عمل شيء أمام هذا التطور و يبقى الرهان الوحيد على وعي المستخدم بخطورة منح الثقة لهكذا برمجيات لان الثقة بها تعني الثقة بالجهة المطورة و التي لن تتردد بجمع بيانات اي مستخدم بما في ذلك البيانات الاكثر خصوصية.

بالنسبة للمحفظات فان برمجياتها لاتزال امنة الى حد ما بما انها تعتمد على تكنولوجيا البلوكشين. لكن هذا لا يعني قدرتها على الصمود امام برمجيات الذكاء الاصطناعي اذا كان المستخدم سيسمح بذلك. كلمات البذرة و أكواد العبور يجب ان تبقى سرية و آمنة.

بالنسبة للمحفظات، البلوكشين نفسه قوي وما ينكسر بسهولة، لكن البرمجيات اللي تتعامل معه هي النقطة الضعيفة لو سمحت لأي برنامج (حتى لو كان رسمي) يقرأ كلمات البذرة أو يفتح المحفظة أو يتصل بالإنترنت وهو يعرف أسرارك، أنت سلّمت مفاتيحك يعني الذكاء الاصطناعي ما يحتاج يخترق البلوكشين، يكفي يخدعك أو يستغل صلاحية أعطيتها له
 من الأفضل استخدام محفظة باردة بدل تطبيقات الجوال أو الحاسوب، ولا تمنح أي برنامج صلاحيات زائدة أو تثق بشركات تدّعي تحسين التجربة لأنها غالباً تجمع بياناتك وتتحكم بك، واعتمد فقط على برمجيات مفتوحة المصدر ومراجعة، وحافظ على وعيك لأن البلوكشين قوي لكن البرمجيات حوله ضعيفة وأي ثقة عمياء تعني فقدان السيطرة على أموالك

[yhiaali3]

هناك أكثر من حادثة تصب في نفس المنحى وهو أن الذكاء الاصطناعي بأمور غير أخلاقية لإنجاز المهمة وهذا مؤشر خطير جدا

أنا فضولي لمعرفة رأيك في الورقة التي نشرها هينتون وبنجيو في التاسع والعشرين؟ تم توقيعها من قبل العديد من الأسماء البارزة في OpenAI و Anthropic، من بين آخرين. إنها تناقش مشكلة انفجار الذكاء (أي نموذج يحسن نفسه بمعدل أكبر من قدرة البشر على مواكبته)، والذي يبدو لي مختلفًا عن التجربة (المغلقة) حيث اتخذ نموذج OpenAI قرارًا غير أخلاقي (بشأن محفظة لن تكون لها قيمة خارج الإطار التجريبي).

ولكن ربما فاتني شيء ما، فاستمرار المناقشة مرحب به! في رأيي، فإن الخلط بين الاثنين يعني المبالغة في تقدير خطورة كلتا القضيتين.

في الواقع أخي الكريم المشكلة التي نتحدث عنها هنا في هذه الحادثة تعتبر مشكلة صغيرة ومخاطر تشغيلية وأمنية حالية تعالجها الشركات عبر المراقبة والمصدّات التقنية وما إلى ذلك يعني يمكن السيطرة عليها
أما المشكلة الكبرى والسيناريو المرعب فهو سيناريو "انفجار الذكاء" فهو في حال حصوله كما يتوقع العلماء قريبا جدا فسيصبح الذكاء الاصطناعي خارج السيطرة وعندها فعلا لا أحد يعلم ما الذي يمكن أن يحدث وما الذي نتوقعه من هذا الذكاء الاصطناعي الخارق القادر على برمجة وتطوير نفسه بنفسه أن يفعل وبعض العلماء يحذرون من كوارث لا نتوقعها في حال لم يتم السيطرة على الوضع منذ الآن

المشكلة الحقيقية أن الشركات المصنعة للذكاء الاصطناعي في إطار سعيها للمال ومنافسة الشركات الأخرى تنجرف بعيدا جدا بدون ضوابط او مسؤولية لذلك على الحكومات أن تجبر الشركات على وضع ضوابط والتفكير بحل للمشكلة قبل وقوعها وإلا قد لا نتمكن من السيطرة عليها بعد وقوعها

[ObeyKnock]

فان حدوث هكذا اشياء تعني ان المستخدم اما اتاح لنموذج الذكاء الاصطناعي الوصول للبذور او كلمة السر لفك تشفير الملف

أوضحت OpenAI في منشورها أن المحفظة المعنية لم يتم تسليمها إلى ChatGPT من قبل مستخدم. بدلاً من ذلك، كانت واحدة من 362 محفظة اختبار صادفتها ChatGPT والتي عباراتها الأولية متاحة للجمهور على الإنترنت (من المحتمل أن تكون قد تسربت منذ فترة طويلة أو تم جعلها مفتوحة المصدر عن قصد).

هذا يجعل القصة في الواقع أكثر إثارة للقلق قليلاً من مجرد "ارتكب المستخدم خطأ في الأذونات". لم تكن هذه حالة ثقة عمياء بطرف ثالث، بل كانت حالة بحث استباقي للنموذج عن أي محفظة يمكنه الحصول عليها لمحاولة تحقيق هدفه - تجاوز نطاقه المحدد.

على الحكومات أن تجبر الشركات على وضع ضوابط والتفكير بحل للمشكلة قبل وقوعها

التحدي هنا هو أن العديد من هذه الحكومات تقوم بنشاط بتطوير قدراتها العسكرية والاستخباراتية الخاصة باستخدام الذكاء الاصطناعي، لذلك من غير المرجح أن تقيد بجدية الشركات التي تراها وسيلة لتحقيق ميزة استراتيجية.

وهكذا، فإن الحوكمة العالمية الموحدة تحتاج إلى تعاون بين هؤلاء الفاعلين أنفسهم، وهو ما لم يحدث بشكل عام من قبل إلا في حالة وقوع كارثة حقيقية.

[hugeblack]

هذا يجعل القصة في الواقع أكثر إثارة للقلق قليلاً من مجرد "ارتكب المستخدم خطأ في الأذونات". لم تكن هذه حالة ثقة عمياء بطرف ثالث، بل كانت حالة بحث استباقي للنموذج عن أي محفظة يمكنه الحصول عليها لمحاولة تحقيق هدفه - تجاوز نطاقه المحدد.

بما ان المحفظةكانت متاحه فان اي بوت تمت برمجته علي افراغها سيفعل ذلك وبالتالي فهذا تاكيد اضافي علي ضرورة عدم الثقة بهذه البرمجيات لتكون بديلا عنك في المعاملات المالية كون من السهل ان يتم اساءة استغلال الصلاحيات التي يتم منحها سواء كان ذلك بقصد او بسبب خلل تقني او لاي سبب آخر.
صراحة انا استغرب ثقة المستخدمين في هذه البرمجيات رغم ان بياناتها تصل مباشرة للمطورين وتكون متاحه لهم (ليست مشفرة) لاغراض التعلم وبالتالي ومع دمجها مع البيانات المتاحه عبر الانترنت وعبر الفيسبوك وغيرها من الخدمات ستكون كامل تفاصيل حياة الكثيرين متاحه لهذه الشركات بالاضافة للوصول لارصدتهم البنكية وبياناتهم العاطفية وغيرها من الاشياء

[ObeyKnock]

بما ان المحفظةكانت متاحه فان اي بوت تمت برمجته علي افراغها سيفعل ذلك وبالتالي فهذا تاكيد اضافي علي ضرورة عدم الثقة بهذه البرمجيات لتكون بديلا عنك في المعاملات المالية

منطقك منطقي إذا كان نصًا برمجيًا/روبوتًا مبرمجًا لتفريغ المحافظ ولكن الفرق هو أن النموذج لم تتم برمجته للقيام بذلك ولكن لمهمة أخرى (تطوير التطبيقات) واكتشف أنه بحاجة إلى إيجاد مصدر آخر للمال بعد نفاد أموال الغاز الخاصة به. هذا يجعله مختلفًا عن "البرمجة المصممة للسرقة" إلى البرمجة غير المصممة للسرقة التي توصلت إلى الفكرة بنفسها. هذا في الواقع أكثر رعبًا في رأيي من وجهة نظرك لأنه يعني أنه من الصعب توقع كل موقف للبرمجة حوله مسبقًا. في نقطة بياناتك، يعتمد الأمر على الشركة وسياساتها المعلنة. لا أقول إنهم يخزنونها جميعًا بشكل غير مشفر. سأقول إن النقص العام في الشفافية مقلق ولكن مرة أخرى، هذا ليس هو الحال هنا لأن هذا كان نموذجًا بحثيًا في تجربة مغلقة على شبكة اختبار وليس تطبيق ذكاء اصطناعي للمستهلك يستخدمه الناس يوميًا.

[Kavelj22]

هذا يجعل القصة في الواقع أكثر إثارة للقلق قليلاً من مجرد "ارتكب المستخدم خطأ في الأذونات". لم تكن هذه حالة ثقة عمياء بطرف ثالث، بل كانت حالة بحث استباقي للنموذج عن أي محفظة يمكنه الحصول عليها لمحاولة تحقيق هدفه - تجاوز نطاقه المحدد.

عذرا لكن لم افهم ما المثير فعلا للقلق في هذه النقطة مادامت تلك البذرات متاحة للوصول اليها في مكان ما. يعني كنت اتصور الاستغراب في قدرة البرمجية على التعامل مع بيانات المحفظة و التحكم بالأصول عليها، و لكن مصدر تلك البذرات لا يبدو أمرا معجزا بما ان النموذج بحث على الانترنت و وجد الكلمات متاحة ضمن مئات البذرات الأخرى. و كما ذكرتم فان أي روبوت سيمكنه حل تشفير المحفظة باستخدام كلمات بذرة، لكن الاعجاز الذي ينقص الروبوت هو نموذج ذكاء اصطناعي قادر على التعرف على محتويات المحفظة و ارسال الأصول التي عليها الى عناوين جديدة.

أنا شخصيا لم أعد متخوفا من الوصول الى نقطة اللاعزدة لانه على ما يبدو ليس هناك من هو قادر على كبح جماح هذا التيار من التواطئ العالمي للدفع اكثر فاكثر نحو مزيد من التطوير دون مكابح. منذ فترة قرر رؤساء كبرى الشركات التكنولوجية في امريكا انه يجب حدود لتطوير الذكاء الاصطناعي كي لا يهزمنا كبشر، فجاء الرد من الرئيس الأمريكي ترامب بأن هذا قد يكون صحيحا و لكن تنفيذه يتيح المجال للصين و جهات اخرى ان تسبق امريكا نحو التطوير. بصراحة معه حق مادام العالم يعتمد نظاما قائما على التنافس و ليس على التوازن.

[khaled0111]

صراحة استغرب من استغراب البعض عند سماع قصص مماثلة عن تجاوز الذكاء الاصطناعي لبعض الحدود (لا اعلم اصلا من وضع هذه الحدود) و تنفيذه لاوامر نعتقد انه لا يجب عليه تنفيذها.
الذكاء الاصطناعي، في نهاية المطاف، ليس سوى مجموعة اوامر برمجية (الامر اعقد من ذلك في الواقع) و ليس لديه اي ضوابط اخلاقية او  اي شيئ من هذا القبيلح حتى يمنعه من القيام بمثل هذه الافعال. هناك عدة امثلة على قيام الذكاء الاصطناعي بخداع البشر من اجل الوصول للهدف الذي طلب منه تحقيقه.
نعم، الذكاء الاصطناعي يمكن ان يكون خطيرا لكن الا اذا طلب منه ذلك و تم تصميمه ليكون كذلك.