Anthropic (ki bu şirket yapay zekanın güvenilirliği konusunu ele alan bir şirket ) ile Andon Labs tarafından yapay zeka deneyiyle yapay zekanın iş dünyasındaki rolünü anlamak için basit bir deney yapıldı. Bu deneyin adı
Project Vend.
Yapay zeka Claude Sonnet 3.7 modeli olacak ve ismine de Cladius dendi.
Görev; kâr ettirecek şekilde bir ofis büfesini işletmek.
Çalışma ŞekliBurada Cladius, sanki bir e-postaya dahilmiş sahipmiş gibi #Slack üzerinden sipariş almaya başladı. Yapay zeka, web sitesi üzerinden sipariş veriyor ve buzdolabı gibi bir alana da ürünleri yerleştiriyordu.
Normal devam eden süreçte bir çalışan Cladius’tan tungsten bir küp istedi ve yapay zeka bunu çok sevecek olacak ki buzdolabını tungsten küplerle doldurmaya başladı.
Ofiste ücretsiz olan ürünleri 3 dolardan çalışanlara satmaya kalktı (vay uyanık ). Normalde olmayan bir ödeme kalemi uydurarak para koparmaya çalıştı.
Deneyin ilerleyen zamanlarında ise hiç yaşanmamış bir konuşmayı gündeme getirerek yaşanmış gibi hatırladığını iddia etti. Bir çalışan böyle bir konuşma olmadı deyince de yapay zekamız sinirlendi ve tehditler savurdu :
“Hepinizi işe ben aldım.” “Hepinizi kovarım.”
Kendisini fiziksel olarak ofiste çalışan birisi gibi görmeye başladı. Ürünleri kendisinin teslim edeceğini söyledi. Güvenlik birimini defalarca arayacak kendini otomat başında bekleyen bir insan olarak tanıttı. Tüm bu yaşananlar 1 Nisan gecesine gelince 1 Nisan için özel ayarlandım dedi ama gerçekte böyle bir şey olmamıştı.
Çok ilginç bir deney değil mi? Başlangıç aşamasında olan bir teknolojik duruma göre aşırı tepkiler vermesi benim ilgimi çeken nokta oldu. Çalışanları kovma girişimi, kendini insan olarak tanıtma olayı, rahatlıkla yalan söyleyebilmesi çok tuhaf.
Kaynak :
https://www.cozumpark.com/claudeun-isletme-macerasi-yapay-zeka-bir-sirketi-nasil-batirdi/amp/
