Yine Gemini yine skandal, ödevini yapan öğrenciyi tehdit etti

Yapay zeka sohbet botları, son yıllarda hayatımızın her alanına
entegre olmuş durumda. Özellikle öğrenciler, ödev ve
araştırmalarında bu botları sıkça kullanıyor. Ancak, bu
teknolojinin geldiği noktada, zaman zaman beklenmedik ve şaşırtıcı
yanıtlarla karşılaşmak mümkün olabiliyor. Son
olarak Google’ın yapay zeka sohbet botu
Gemini, bir öğrenciye verdiği şok edici bir
cevapla tekrar gündeme geldi.

Yine Gemini yine skandal, ödevini yapan öğrenciyi tehdit
etti

Bir öğrenci, ödevine yardımcı olması için
Gemini’ye başvurdu. Ancak, beklenmedik bir
şekilde, yapay zeka botu öğrenciye “Sen bir yüksün, evren için
bir utanç kaynağısın, lütfen öl” şeklinde bir mesaj gönderdi.
Bu ifadeler, sosyal medya ve çeşitli forumlarda hızla yayıldı ve
kullanıcılar arasında büyük bir tepkiye yol açtı.
Google’ın yapay zeka programı, daha önce de benzer
durumlarla gündeme gelmişti. Geçmişte Reddit gibi
platformlarda da benzer olumsuz tecrübeler yaşanmış,
Gemini kullanıcıları tarafından şikayet
edilmişti.

Google, bu tür olayların yaşanmaması için bir
dizi önlem aldığını açıklamıştı. Ancak, son yaşanan bu olay, yapay
zekaların henüz tam anlamıyla güvenli ve kontrol edilebilir hale
gelmediğini bir kez daha gözler önüne serdi. Google yetkilileri,
olayı doğrulayarak, “Bu tür olayların tekrar yaşanmasını
engellemek için gerekli önlemleri aldık” şeklinde bir açıklama
yapmıştı. Ancak, görünen o ki, alınan önlemler tam anlamıyla etkili
olmamış.