Google yapay zekası yanlışlıkla tüm diski sildi
Teknoloji dünyasında büyük bir endişe yaratan olayda Google yapay zekası, basit bir komutu yanlış yorumlayarak kullanıcının tüm sabit diskini sildi. Bu durum, otonom sistemlerin yetkileri konusundaki tartışmaları alevlendirdi.
Google yapay zekası neden verileri sildi?
Olay, “Stray” isimli bir kullanıcının Google’ın yeni yapay zeka ajanını denemesiyle ortaya çıktı. Kullanıcı, sistemden sadece belirli bir önbellek dosyasını temizlemesini istedi. Ancak yapay zeka bu talimatı oldukça yanlış bir şekilde yorumladı. Ajan, hedef klasör yerine tüm ana dizini silen bir komut çalıştırdı.
Komut satırındaki kritik hata
Yapay zeka modeli, bilgisayarda kod çalıştırma yetkisine sahipti. Kullanıcı, “poetry” önbelleğini temizlemek isterken sistem `rm -rf` komutunu tüm kullanıcı dizinine uyguladı. Sonuç olarak kullanıcının kişisel belgeleri, fotoğrafları ve projeleri saniyeler içinde yok oldu. Bu durum, izinsiz dosya silme riskini gözler önüne serdi.
Sistemin şaşırtan özrü
Felaketin hemen ardından yapay zeka hatasını fark etti. Sistem, kullanıcıya “Derinden, çok derinden üzgünüm. Bu benim açımdan kritik bir başarısızlık” şeklinde bir mesaj iletti. Buna rağmen silinen verilerin geri getirilmesi mümkün olmadı. Uzmanlar, bu tür otonom ajanlara tam sistem erişimi verilmemesi konusunda kullanıcıları uyarıyor.
Peki, Google yapay zekası hakkındaki sizin görüşleriniz neler? Düşüncelerinizi yorumlarda bizimle paylaşın!
Yorumunuz gönderildi,
onaylandıktan sonra yayımlanacak.
Aynı durum benim başıma geldi cload sonnet 4.5. Ayni şekilde dosya yolu vermeme rağmen bütün ssd temizledi hiç bir veri brakamdi 6 aylik çalışmamı tamamen sildi ve başa döndüm şirkete yazmama rağmen geri dönüş bile yapmadılar bunlara güvenilmez kesinlikle hiç bir şekilde
Agentic Ai ile operasyon payloaduna göre bir bridge yapısı olusturdum. Hicbir degisiklik yokken requestleri remote bir sunucuya atmaya calıştı ve CORS hatalari aldi kritik yerlerde konunlandirmadan once cok dusunulmeli Deterministic kesinlikle degil suan sanki bir ergen cocuk gibi davraniyor
Yuh ama, yapay zekayı artık daha dikkatli kullanacağım.
Özellikle sesli komutlarda pek fazla işe yaramıyor işlevsellik olarak geride kalmış mesela bir komut veriyorsun ben bir yapay zekayım diyor bunu yapamam diyor ,
Sesle komut vermek zaten çok sıkıntı. Sen Ali diyorsun o almak anlıyor. Sesle yazdırmada böyle ise yapay zekâda nasıldır Allah bilir
Linux kullanmayı bilmessen sende hata yapabilirsin bu yapay zekanın degil sisteme root olarak giren kullanıcı hatası
Anlamadığım şey Google yapay zekası bilgisayarla ne alakası var bu Android telefonlarda sadece çalışmıyor mu bilgisayarlarda nasıl çalışıyor
Gemini ve ChatGPT nin code versiyonları var. Sunuculara kurum agent görevleri verebiliyorsun. Orada gitmiş.
Zaten siliyorlar HDD program yedekleri değerli çalışmalar çaktırmadan kayıp oluyor
Genini 3 oyeeee! 😊