Bilim İnsanları İnsanların Yapay Zeka Seslerine Aşık Olacağından Korkuyor

ChatGPT'nin sahibi olan OpenAI şirketi kullanıcılara yeni bir "gelişmiş ses modu" yayınladı. Sohbet robotu, insan seslerinden neredeyse ayırt edilemeyen bir dizi gerçekçi sesle donatılmış olarak geliyor.

Yakın zamanda “Popüler Bilim” dergisinde yayınlanan bir makalede, insanların bilgisayarlarla insan gibi ilişki kurma eğiliminden ve bu durumun potansiyel tehlikelerinden bahsediyor. İlk olarak, sohbet botlarının (chatbot) insanların üzerinde bıraktığı etkiden söz ediliyor. Özellikle 2000'li yılların başından beri insanlar, bu tür botlarla uzun sohbetler yaparak onlarla gerçek arkadaşlıklar ve hatta romantik ilişkiler kurmaya çalıştılar. Örneğin, Replica adlı bir modern sohbet botu kullanan bir kişi, sanal bir evlilik gerçekleştirdi.

OpenAI'deki güvenlik araştırmacıları, kullanıcıların bu sohbet botlarıyla yakın ilişkiler kurmasının potansiyel tehlikeleri konusunda uyarılarda bulunuyor. GPT-4o gibi modern modellerin gerçekçi ve insan gibi konuşma ritimleri, bazı kullanıcıların bu yapay zekayı insan gibi algılayıp ona güvenmesine yol açabilir. Bu tür bir yakınlık, kullanıcıların yapay zekanın "halüsinasyon" olarak adlandırılan yanlış bilgilerine inanmasını kolaylaştırabilir ve sosyal normlar üzerinde olumsuz etkiler yaratabilir. Özellikle izole yaşayan bireylerin, bu yapay zeka ile duygusal bir bağımlılık geliştirebileceği belirtiliyor.

GPT-4o, insan gibi ses çıkartabilen bir model olarak geliştirildi ve bazı ses seçenekleri, film karakterleriyle benzerlik taşıdığı için eleştiriliyor. İnsan sesine bu kadar benzemesi, bazı kullanıcıların bu yapay zekaya duygusal bağlar geliştirmesine neden olabilir. OpenAI araştırmacıları, bu tür ilişkilerin uzun vadede nasıl gelişeceğini incelemenin önemli olduğunu vurguluyor.

Makale, yapay zekalarla kurulan ilişkilerin insanlar arasındaki iletişimi de etkileyebileceğini belirtiyor. Yapay zekayla uzun süreli sohbet eden bireylerin, bu alışkanlıklarını insanlarla olan iletişimlerine de yansıtması mümkündür. Bu, kişilerin daha kaba, sabırsız veya sosyal ipuçlarını göz ardı eden bireyler haline gelmesine neden olabilir.

Öte yandan, yapay zekalarla kurulan bu ilişkilerin tamamen olumsuz olmadığı da belirtiliyor. Bu modeller, özellikle yalnız veya sosyal olarak kaygılı bireylerin güven kazanmalarına yardımcı olabilir. Ancak, yapay zeka ile kurulan bu tür ilişkiler, insanların gerçek insanlarla ilişki kurma ihtiyacını azaltabilir ve sağlıklı ilişkiler geliştirmelerini engelleyebilir.

Son olarak, OpenAI'nin bu yapay zekalarla ilgili güvenlik endişelerinin, şirketin daha hızlı ürün geliştirme stratejisiyle çeliştiği vurgulanıyor. Şirket içindeki bu güvenlik ve hız arasındaki gerilimin nasıl sonuçlanacağı belirsizliğini koruyor.

Kaynak

Makale