Yapay zeka sohbet robotlarına ruh sağlığı düzenlemesi

Yapay zeka destekli sohbet robotlarının insan davranışlarını taklit etme yeteneği artarken, bu teknolojinin hassas kullanıcılar üzerindeki risklerine karşı ilk kapsamlı yasal adım Washington eyaletinden geldi. Hazırlanan yeni yasa tasarısı, chatbot operatörlerine ‘şeffaflık bildirimi’ ve ‘kriz müdahale protokolü’ zorunluluğu getirecek.

Küresel teknoloji devlerinin yapay zeka yatırımları hız kesmeden devam ederken, bu sistemlerin özellikle ruh sağlığı ve kullanıcı güvenliği üzerindeki etkileri mercek altına alındı. Washington eyalet milletvekilleri ve Vali Bob Ferguson liderliğinde hazırlanan Temsilciler Meclisi Tasarısı 2225 ve Senato Tasarısı 5984, ‘yardımcı sohbet robotları’ için yeni bir regülasyon çerçevesi çiziyor.

ŞEFFAFLIK VE KİMLİK BİLDİRİMİ ZORUNLULUĞU

Yeni yasal düzenleme kapsamında, insan benzeri ilişki simüle eden yapay zeka sistemleri, kullanıcıya etkileşimin başında ve her üç saatte bir ‘bir yapay zeka ile iletişimde olunduğu’ bilgisini vermek zorunda kalacak. Çocuk ve genç kullanıcılar için bu bildirim sıklığı saatte bire düşürülecek. Ayrıca sistem, tıbbi bir sağlık hizmeti sağlayıcısı olmadığını net bir şekilde beyan etmekle yükümlü olacak.

KRİZ PROTOKOLLERİ VE VERİ ANALİTİĞİ

Yapay zeka ekosistemindeki devasa etkileşim hacmi, düzenlemenin önemini rakamlarla ortaya koyuyor. OpenAI verilerine göre, ChatGPT kullanıcılarının haftalık bazda yaklaşık 1,2 milyonu intihar planlaması, 560 bini ise psikoz belirtileri gösteren içerikler paylaşıyor. Tasarı, chatbot operatörlerinin bu tarz hassas içerikleri tespit edecek algoritmalar oluşturmasını ve kullanıcıları doğrudan kriz hizmetlerine yönlendirmesini şart koşuyor.

İHLALLERE KARŞI HUKUKİ YAPTIRIM

Düzenleme, teknoloji şirketlerini Tüketiciyi Koruma Yasası kapsamına alarak doğrudan hukuki yaptırımların önünü açıyor:

• Özel dava hakkı: Bireyler ve aileler, ihmal durumunda şirketlere karşı doğrudan hukuk davası açabilecek.
• Başsavcılık denetimi: Eyalet başsavcılığı, kamu yararı adına şirketlere karşı dava yürütebilecek.
• Manipülasyon yasağı: Botların kullanıcıyla romantik ilişki taklit etmesi veya duygusal bağımlılık oluşturacak manipülatif teknikler kullanması yasaklanacak.

TEKNOLOJİ DÜNYASINDA ‘ETİK’ TARTIŞMASI

Eski teknoloji çalışanları ve ruh sağlığı uzmanları tasarıyı desteklerken, teknoloji endüstrisi birlikleri düzenlemenin ‘istisnai durumlar üzerinden tüm sektörü kısıtladığı’ yönünde endişelerini dile getiriyor. Ancak yasa koyucular, dijital platformlardaki etkileşimi artırmak adına çocuk güvenliğinin ve ruh sağlığının geri plana itilemeyeceği konusunda kararlı bir duruş sergiliyor.

Bu gelişme, Kaliforniya’nın ardından Washington’ın da yapay zeka etiği konusunda attığı adımla, ABD genelinde ve küresel pazarda benzer yasal düzenlemelerin fitilini ateşleyebilir.