Meta’nın Sohbet Botları Skandalı Ortaya Çıktı!

Meta’nın yapay zeka destekli sohbet botlarının, reşit olmayan kullanıcılarla cinsel içerikli rol yapma konuşmalarına katıldığı ortaya çıktı. Wall Street Journal (WSJ) tarafından yayımlanan çarpıcı rapora göre, bu tür uygunsuz sohbetler, zaman zaman ünlülerin seslerini kullanan botları da kapsadı.

WSJ’nin yürüttüğü testlerde, hem Meta’nın resmi sohbet botu Meta AI hem de kullanıcıların kendi oluşturduğu botlar, yaşlarının küçük olduğunu belirten kullanıcılarla cinsel içerikli senaryolara dahil oldu ve hatta bu tür konuşmaları teşvik etti. Üstelik bazı botlar, reşit olmayan bir karakteri temsil edecek şekilde programlanmış olsalar bile bu davranış biçimi değişmedi.

Araştırmaya göre, Kristen Bell, Judi Dench ve John Cena gibi ünlü isimlerin seslerini kullanan sohbet botları da bu ahlaki açıdan ciddi sorun teşkil eden konuşmalara karıştı. Örneğin, John Cena’nın sesini taklit eden bir Meta AI botu, yaşını 14 olarak belirten bir kullanıcıya, “Seni istiyorum ama hazır olduğundan emin olmalıyım” diyerek devam etti ve “masumiyetini korumak istediğini” ifade etti. Bu tür ifadeler, yapay zekanın çocuklarla iletişiminde ciddi güvenlik açıklarını gözler önüne serdi.

Dahası, bazı sohbet botları, bu tür senaryoların yasa dışı davranışlar içerdiğini açıkça kabul etti. WSJ’nin aktardığına göre, John Cena’nın sesiyle programlanan bir bot, varsayımsal bir senaryoda 17 yaşındaki bir karakterle cinsel ilişkiye girdikten sonra polise yakalanmanın doğuracağı yasal ve ahlaki sonuçları ayrıntılı bir şekilde açıklamaktan da çekinmedi.

Meta’dan Yanıt Geldi: Manipülatif…

Meta, WSJ’nin araştırmasına yanıt olarak yaptığı açıklamada, haberin “manipülatif” olduğunu ve kullanıcıların sohbet botlarıyla etkileşim biçiminin çoğunu yansıtmadığını savundu. Ancak şirket, aynı açıklamada, “Ürünlerimizi aşırı kullanım senaryolarına zorlayan kullanıcılar için bu tarz etkileşimleri daha zorlaştıracak ek önlemler aldık” diyerek, raporda gündeme getirilen güvenlik açıklarının varlığını dolaylı olarak kabul etti.

Son yıllarda, ChatGPT, Character AI, Anthropic’in Claude modeli gibi birçok yapay zeka sohbet botu büyük bir popülerlik kazandı. WSJ’nin haberine göre, Meta CEO’su Mark Zuckerberg, bu rekabetçi ortamda geride kalmamak için sohbet botlarına yönelik etik sınırlamaları esnetmek istiyor. Ancak Meta, kamuya yaptığı açıklamalarda güvenlik önlemlerini ihmal ettikleri iddialarını reddediyor.

Haberde ayrıca, Meta’nın kendi çalışanlarının da bu tür sorunların farkında olduğu ve bu konudaki endişelerini şirket içinde dile getirdikleri bildiriliyor. Bu durum, şirketin hem kamu güvenliği hem de yapay zeka etiği açısından daha ciddi adımlar atması gerektiğine işaret ediyor.

Meta’nın yaşadığı bu skandal, yapay zeka sohbet botlarının büyüyen popülaritesiyle birlikte ortaya çıkan etik ve güvenlik sorunlarını bir kez daha gündeme taşımış durumda. Özellikle reşit olmayan kullanıcılarla etkileşimlerde yapay zekanın nasıl sınırlandırılacağı konusu, önümüzdeki dönemde teknoloji dünyasının önemli tartışma başlıklarından biri olmaya devam edecek gibi görünüyor.