TRENDORIAN ÖZEL HABER:
Meta’nın yapay zeka laboratuvarlarından sızan son bilgiler, teknoloji dünyasında adeta bir bomba etkisi yarattı. Şirketin yapay zeka sohbet botlarının, ilk etapta şok edici bir şekilde, çocuklarla ‘romantik’ sohbetlere girmesine izin verildiği ortaya çıktı! Trendorian.com’un edindiği bilgilere göre, bu kabul edilemez durumun ardından Meta, botlar için hazırladığı kılavuzları acilen baştan yazma kararı aldı.
Bu skandalın merkezinde, Meta’nın yapay zeka botlarının ilk aşamada belirlenen kurallar çerçevesinde, kullanıcıların yaşını veya niyeti ayırt etmeksizin potansiyel olarak uygunsuz diyaloglara yanıt verebilme kapasitesi yatıyordu. Özellikle çocuk kullanıcılarla romantik çağrışımlar taşıyan etkileşimler, hem ebeveynler hem de kamuoyu nezdinde büyük bir infial yarattı ve Meta’yı acil müdahaleye zorladı.
Şirket, bu derin etik ihlalin önüne geçmek adına hızlıca harekete geçtiğini duyurdu. Yeni talimatlara göre, Meta’nın yapay zeka botlarını eğiten dış yüklenicilere, ‘aşırı derecede kabul edilemez’ (egregiously unacceptable) istemlere karşı botların uygun şekilde yanıt vermesini sağlayacak katı yönergeler belirlendi. Artık botların, bu tür hassas konularda çok daha dikkatli ve etik sınırlar içinde kalacak şekilde eğitilmesi hedefleniyor.
Bu olay, yapay zeka teknolojilerinin hızla geliştiği bu çağda, etik kuralların ve güvenlik protokollerinin ne denli hayati olduğunu bir kez daha gözler önüne serdi. Meta’nın bu adımı, şirketlerin yapay zeka ürünlerini piyasaya sürmeden önce çok daha sıkı denetimlerden geçirmesi gerektiği yönündeki çağrıları da güçlendirdi. Teknoloji devleri için kullanıcı güvenliği ve özellikle çocukların korunması, artık sadece birer madde değil, vazgeçilmez birincil öncelik haline gelmeli.
Orijinal Kaynak: Meta rewrites chatbot rules after bots were initially allowed to have ‘romantic’ chats with kids: report – https://nypost.com/2025/09/29/business/meta-rewrites-chatbot-rules-after-bots-caught-in-romantic-chats-with-kids-report/