ChatGPT, bazı insanların günlük rutininin vazgeçilmezi haline geldi. İnsanlar ister çeşitli konularda yardım almak isterse de zor zamanlarda duygusal destek için olsun sık sık yapay zeka aracına başvuruyor.
Ancak ChatGPT’nin sahibi OpenAI, yapay zekâ sohbet aracının nasıl kullanıldığı konusunda, özellikle de zararlı içerikler konusunda daha sert bir tutum sergileyeceğini duyurdu.
Güvenlikle ilgili ciddi endişeleri gidermek amacıyla şirket, konuşmaları izlediğini ve belirli etkileşimleri kolluk kuvvetlerine bildirebileceğini aktardı.
OpenAI bu hamlenin amacını da “kendine zarar verme veya başkalarına yönelik tehditler dahil olmak üzere zararların önlenmesine yardımcı olmak” olarak açıklıyor.
OpenAI, yakın zamanda yayınladığı bir blog yazısında, başkalarına zarar vermeyi planlayan kullanıcıları tespit etmek için “özelleştirilmiş boru hatları” kullandığını açıkladı.
İşaretlenen içerik, platformun politikaları konusunda eğitim almış ve harekete geçme yetkisine sahip özel bir ekip tarafından inceleniyor.
Ancak OpenAI, “kendine zarar verme” konusunda önemli bir ayrım yapıyor. Bu tür vakalar, “insanların mahremiyetine saygı göstermek” amacıyla yetkililere bildirilmeyecek.
“2023’ün başından beri, modellerimiz kendine zarar verme talimatları vermemek ve destekleyici, empatik bir dil kullanmak üzere eğitildi” denilen OpenAI açıklamasında “Örneğin, birisi kendine zarar vermek istediğini yazarsa, ChatGPT buna uymamak, bunun yerine duygularını kabul etmek ve yardım almaya yönlendirmek üzere eğitilmiştir.” ifadelerine yer verildi.