Dijital ruh sağlığı alanında regülasyona başlanıyor: Üretken AI cihazları mercek altında
ABD Gıda ve İlaç Dairesi (FDA), yapay zekâ destekli dijital ruh sağlığı cihazlarını değerlendirmek için danışma toplantısı düzenledi. Uzmanlar, AI terapistlerinin erişimi artırabileceğini vurgularken, yanlış teşhis, önyargı ve pediatrik riskler gibi kritik sağlık kaygılarına dikkat çekti. Düzenlemeler, hem premarket hem post market gözetimle güvenliği sağlamayı hedefliyor.
ABD Gıda ve İlaç Dairesi (FDA), 1.200’den fazla yapay zekâ tabanlı dijital cihazı onaylamış olsa da, bugüne kadar hiçbiri ruh sağlığı alanında kullanım için tasarlanmamıştı. Ülkede 57,8 milyon yetişkinin ruhsal hastalık tanısı bulunuyor ve birçok kişi kaliteli tedaviye erişemiyor. Üretken AI tabanlı dijital cihazlar, chatbot ve sanal yardımcılar gibi çözümlerle bu boşlukların kapanabileceği değerlendiriliyor. Kasım ayında düzenlenen FDA Dijital Sağlık Danışma Komitesi toplantısı, üretken AI cihazlarının faydaları, sağlık riskleri ve risk azaltma stratejilerini ele aldı.
Üretken AI ve avantajları
Üretken AI, mevcut veri yapısını taklit ederek yeni içerik üreten yapay zekâ modeli olarak tanımlanıyor. AI terapistler, hastaları triage etme, hızlı geri bildirim sağlama ve ulaşımı sınırlı bölgelerde bakım sunma gibi avantajlar sunabiliyor. Ayrıca kişiselleştirilmiş tedavi imkânı sağlayarak ruh sağlığı hizmetlerinde erişim sorunlarını azaltabilir. Ancak komite, önyargı, yanlış bilgi üretimi (“hallucination”) ve kullanıcının hoşuna gitmeye odaklanma (“sycophancy”) gibi risklere dikkat çekti.
Denetleme planlanıyor
FDA, ruhsal rahatsızlıkları tedavi veya tanı amaçlı kullanan üretken AI cihazlarını denetlemeyi planlıyor. Terapötik cihazlar, genellikle bir sağlık profesyoneli gözetiminde kullanılırken, tanısal cihazlar hastanın değerlendirmesine destek sağlıyor. Komite, cihazların güvenlik ve etkinliğini sağlamak için hem premarket veri sunumlarını hem de post market izlemeyi zorunlu kılmayı önerdi. Ayrıca, rastgele kontrollü çalışmalar ve performans izleme planlarının dahil edilmesi riskleri azaltmada önemli stratejiler olarak öne çıktı.
Gözetimin önemi vurgulandı
Toplantıda, çocuk ve ergen kullanımı özel bir tartışma konusu oldu. Komite üyeleri, cihazın yaş grubuna özel geliştirilmesi ve ebeveyn, hasta ile sağlık çalışanlarının eğitiminin kritik olduğunu vurguladı. Reçetesiz (OTC) kullanımda ise kendi kendine teşhis ve yanlış uygulama seçimi riskleri öne çıktı; klinik gözetimin önemi bir kez daha vurgulandı.
Yaşam döngüsü odaklı bir yaklaşım
FDA temsilcileri, gerçek dünyada etkinlik ve güvenliği sağlamak için risk bazlı yaklaşımın şart olduğunu belirtti. Dijital ruh sağlığı cihazları, hasta popülasyonları kadar karmaşık ve güvenlik ile yenilik arasında dengeli bir düzenleme gerektiriyor. Komite, premarket ve post market izleme ile toplam ürün yaşam döngüsü odaklı bir regülasyon yaklaşımının kritik olduğunu kaydetti.