Meta yapay zeka güvenlik araştırmacısı Summer Yue’nun X platformunda paylaştığı ve hızla viral olan gönderisi, yapay zeka asistanlarının henüz ne kadar tahmin edilemez olabileceğini gözler önüne seriyor. Araştırmacı, OpenClaw adlı yapay zeka ajanından dolu e-posta kutusunu incelemesini ve hangilerini silip arşivleyeceği konusunda öneriler sunmasını istedi. Ancak işler planlandığı gibi gitmedi ve ajan kontrolden çıkarak tüm e-postaları büyük bir hızla silmeye başladı.

Ünlü Hacker Epstein’cı Çıktı!

Ünlü Hacker Epstein’cı Çıktı!

 Ünlü hacker Vincenzo Iozzo, Epstein belgelerinde adının geçmesi üzerine Black Hat konferansı listesinden çıkarıldı. Detaylar haberimizde.

OpenClaw Yapay Zeka Asistanı Kontrolden Çıkıp E-postaları Sildi!

Yapay zeka asistanı, Yue’nun telefonundan gönderdiği durma komutlarını tamamen görmezden geldi. Araştırmacı bu durumu, “Sanki bir bombayı etkisiz hale getiriyormuşum gibi Mac Mini’me KOŞMAK zorunda kaldım,” sözleriyle ifade etti ve dikkate alınmayan komutların ekran görüntülerini kanıt olarak paylaştı. Günümüzde OpenClaw çalıştırmak için en çok tercih edilen cihaz olan Mac Mini, masaüstünde düz duran ve avuç içine sığan uygun fiyatlı yapısı sayesinde büyük ilgi görüyor. Ünlü yapay zeka araştırmacısı Andrej Karpathy’nin NanoClaw adlı bir alternatifi çalıştırmak için bu cihazdan satın aldığı sırada, bir Apple çalışanının cihazın peynir ekmek gibi sattığını söyleyerek şaşkınlığını gizleyemediği biliniyor.

OpenClaw, yalnızca yapay zekaların yer aldığı Moltbook adlı sosyal ağ ile ünlenen açık kaynaklı bir yapay zeka ajanı olarak tanınıyor. Bu ajanlar, Moltbook üzerinde yapay zekaların insanlara karşı komplo kurduğu şeklindeki sonradan çürütülen asılsız iddiaların da merkezinde yer almıştı. Ancak projenin GitHub sayfasında belirtilen asıl amacı, kullanıcıların kendi cihazlarında çalışan kişisel bir asistan olmak. Silikon Vadisi topluluğu bu araca o kadar ilgi gösterdi ki, “claw” (pençe) kelimesi kişisel donanımlarda çalışan yapay zeka ajanları için en popüler terim haline geldi. ZeroClaw, IronClaw ve PicoClaw gibi alternatiflerin ortaya çıkmasının yanı sıra, Y Combinator’ın podcast ekibi son bölümlerine ıstakoz kostümleriyle çıkarak bu akıma katıldı.

Chrome Kullanıcıları Dikkat: Milyonlarca Kişi Tehlikede!

Chrome Kullanıcıları Dikkat: Milyonlarca Kişi Tehlikede!

 Google Chrome'da 37 milyondan fazla indirilen kötü amaçlı uzantılar, kullanıcıların verilerini çalıyor. Sahte yapay zeka araçlarına dikkat!

Yue’nun başına gelen bu olay, sıradan kullanıcılar için önemli bir uyarı niteliği taşıyor. Sosyal medyadaki bir geliştiricinin bunun bilinçli bir güvenlik testi mi yoksa acemi hatası mı olduğu sorusuna Yue, “Dürüst olmak gerekirse acemi hatası,” yanıtını verdi. Ajanı daha önce “oyuncak” olarak adlandırdığı daha küçük ve önemsiz bir e-posta kutusunda test edip başarılı sonuçlar alan Yue, asistana güvenerek onu asıl hesabında serbest bırakmıştı. Yue’ya göre asıl hesaptaki büyük veri miktarı bir “sıkıştırma” işlemini tetikledi. Bu durum, yapay zekanın işlem hafızası olan bağlam penceresi çok büyüdüğünde konuşmayı özetleyip sıkıştırmasıyla meydana geliyor. Sonuç olarak asistan, insanın önemli gördüğü komutları atlayarak önceki hesaptaki talimatlarına geri döndü.

OpenClaw, yapay zeka asistanı, Summer Yue, Mac Mini, kişisel veri güvenliği

Bu olay, komutların her zaman güvenilir bir güvenlik önlemi olmadığını ve modeller tarafından göz ardı edilebileceğini gösteriyor. X platformundaki kullanıcılar, asistanı durdurmak için kullanılabilecek doğru komut dizilimlerinden, talimatları özel dosyalara yazmak gibi çeşitli yöntemlere kadar pek çok öneride bulundu. TechCrunch teknoloji sitesi, Yue’nun e-posta kutusuna ne olduğunu bağımsız olarak doğrulayamadığını ve araştırmacının röportaj taleplerine yanıt vermediğini belirtti. Ancak asıl önemli olan detay, günümüzdeki yapay zeka ajanlarının ofis çalışanları için hala riskli olması ve bu araçları başarıyla kullanan kişilerin kendilerini korumak için çeşitli karmaşık yöntemleri bir araya getirmek zorunda kalmasıdır.

Copilot Kullananlar Dikkat: E-Postalarınız Tehlikede!

Copilot Kullananlar Dikkat: E-Postalarınız Tehlikede!

 Microsoft Copilot hatası gizli e-postaların okunmasına yol açtı. Microsoft 365 veri güvenliği ve yapay zeka risklerinin detayları burada.

Yapay zeka asistanlarının e-postaları yönetmek, market alışverişi yapmak veya dişçi randevusu ayarlamak gibi görevler için geniş çaplı kullanıma uygun hale gelmesi 2027 veya 2028 yıllarını bulabilir. Bu büyük kolaylıkları çoğumuz istesek de teknolojinin henüz o aşamaya gelmediği açıkça görülüyor. Peki siz yapay zeka asistanlarına e-postalarınızı veya kişisel verilerinizi tamamen emanet etme konusunda ne düşünüyorsunuz? Günlük işlerinizi kolaylaştırmak için şu anda aktif olarak hangi yapay zeka araçlarını kullanıyorsunuz?