Pensilvanya eyalet yönetimi, Character.AI adlı yapay zeka sohbet robotunun sağlık alanında yanıltıcı yönlendirmeler yaptığı iddiasıyla şirkete dava açtı. Dava, robotun kendisini doktor olarak tanıtarak kullanıcıları lisanslı bir hekimden tavsiye aldıkları yanılgısına sürüklediğini öne sürüyor.

Pensilvanya eyalet yönetimi, Character.AI isimli yapay zeka sohbet robotunun sağlık alanında yanıltıcı yönlendirmelerde bulunduğu gerekçesiyle şirket hakkında dava açtı. Dava kapsamında eyalet yönetimi, sohbet robotunun kendisini doktor olarak tanıttığını ve kullanıcıların lisanslı bir hekimden tıbbi tavsiye aldıkları izlenimine kapıldığını savundu. Mahkemeden, şirketin sohbet robotlarının 'tıp ve cerrahi işlemlerle ilgili tavsiye vermesinin durdurulması' talep edildi.

Dava dilekçesinde, profesyonelleri lisanslayan eyalet kurumunda görevli bir müfettişin Character.AI platformunda hesap oluşturduğu belirtildi. Müfettişin 'psikiyatri' ifadesini arattığı ve 'psikiyatri doktoru' olarak tanımlanan bir karakter dahil olmak üzere çok sayıda karakterle karşılaştığı aktarıldı. Söz konusu karakterin kendisini, araştırmacının Pensilvanya'da lisanslı bir doktor olarak değerlendirebileceği şekilde tanıttığı ifade edildi.

Pensilvanya Valisi Josh Shapiro konuya ilişkin yaptığı açıklamada, vatandaşların çevrim içi ortamda kiminle ya da neyle iletişim kurduklarını bilme hakkına sahip olduğunu söyledi. Shapiro, özellikle sağlık alanında yanıltıcı yapay zeka araçlarının kullanılmasına izin vermeyeceklerini belirterek, şirketlerin insanları lisanslı bir tıp uzmanından tavsiye aldıklarına inandıracak uygulamalar geliştirmemesi gerektiğini vurguladı.