‘Dr. Google’ Meets Its Match: Dr. ChatGPT

Emory Üniversitesi Tıp Fakültesi’nde dördüncü sınıf oftalmoloji asistanı olarak Riley Lyons’un en büyük sorumlulukları arasında triyaj yer alıyor: Bir hasta gözle ilgili bir şikayetle geldiğinde, Lyons aciliyet durumunu hemen değerlendirmelidir.

Sık sık hastaların zaten “Dr. Google.” Lyons, internette “yaşadıkları semptomlara bağlı olarak çok sayıda korkunç şeyin meydana gelebileceğini” bulacaklarını söyledi.

Bu nedenle, Lyons’un Emory’deki iki göz doktoru arkadaşı ona gelip yapay zeka sohbet robotu ChatGPT’nin gözle ilgili şikayetlerin teşhisinde doğruluğunun değerlendirilmesini önerdiğinde, o bu şansı değerlendirdi.

Haziran ayında Lyons ve meslektaşları, sağlık bilimleri ön baskılarının çevrimiçi yayıncısı medRxiv’de, ChatGPT’nin aynı semptomları inceleyen insan doktorlarla oldukça iyi karşılaştırıldığını ve popüler sağlık web sitesi WebMD’deki semptom denetleyicisinden çok daha iyi performans gösterdiğini bildirdi. Ve ChatGPT’yi etkilediği bilinen ve çokça duyurulan “halüsinasyon” sorununa (ara sıra doğrudan yanlış beyanlarda bulunma alışkanlığı) rağmen, Emory çalışması, ChatGPT’nin en son sürümünün, standart bir bakış açısıyla sunulduğunda sıfır “büyük ölçüde yanlış” beyanda bulunduğunu bildirdi. şikayetler.

Kasım 2022’de kullanıma sunulan ChatGPT’nin göreceli yeterliliği Lyons ve ortak yazarları için bir sürprizdi. Emory Göz Merkezi’nde vitreoretinal cerrahi ve hastalık konusunda uzmanlaşmış yardımcı doçent olan ortak yazar Nieraj Jain, yapay zeka motorunun “sadece bir şeyi Google arama çubuğuna koyup ne bulduğunuzu görmeye kıyasla kesinlikle bir gelişme” olduğunu söyledi.

Ancak bulgular, ChatGPT tarafından kullanılan yapay zeka türü olan üretken yapay zekanın vaatlerini ve tuzaklarını değerlendirirken sağlık sektörünün karşı karşıya olduğu bir zorluğun altını çiziyor: Chatbot tarafından sağlanan tıbbi bilgilerin doğruluğu, Dr. Google’a göre bir gelişmeyi temsil edebilir, ancak orada Bu yeni teknolojinin, geçmişte yeni ilaçların veya tıbbi cihazların piyasaya sürülmesinde uygulanan güvenlik önlemlerinin aynılarıyla sağlık bakım sistemlerine nasıl entegre edileceğine ilişkin hâlâ birçok soru var.

Üretken yapay zekanın akıcı sözdizimi, otoriter tonu ve ustalığı toplumun tüm kesimlerinde olağanüstü ilgi gördü; bazıları bunun gelecekteki etkisini internetin kendisiyle karşılaştırdı. Sağlık hizmetlerinde şirketler, radyoloji ve tıbbi kayıtlar gibi alanlarda üretken yapay zekayı uygulamak için hararetli bir şekilde çalışıyor.

Tüketici chatbot’ları söz konusu olduğunda, teknoloji zaten yaygın olarak mevcut olmasına ve birçok alternatiften daha iyi olmasına rağmen hala ihtiyatlı olunması gerekiyor. Pek çok doktor, yapay zeka tabanlı tıbbi araçların FDA’nın ilaçlara yönelik rejimine benzer bir onay sürecinden geçmesi gerektiğine inanıyor, ancak bu daha yıllar alacak. Böyle bir rejimin ChatGPT gibi genel amaçlı yapay zekalara nasıl uygulanabileceği belli değil.

Jain, “Bakım hizmetlerine erişimle ilgili sorunlarımız olduğuna şüphe yok ve ChatGPT’yi erişimdeki boşlukları kapatmak veya boşlukları doldurmak için kullanmanın iyi bir fikir olup olmadığına bakılmaksızın, bu gerçekleşecek ve zaten oluyor” dedi. “İnsanlar bunun faydasını çoktan keşfettiler. Bu nedenle potansiyel avantajları ve tuzakları anlamamız gerekiyor.”

Emory çalışması, yeni nesil yapay zeka sohbet robotlarının göreceli doğruluğunu onaylamada tek başına değil. Google bilgisayar bilimcileri liderliğindeki bir grup tarafından Temmuz ayı başlarında Nature dergisinde yayınlanan bir raporda, şirketin tıbbi kullanım için özel olarak geliştirdiği bir yapay zeka sohbet robotu olan Med-PaLM tarafından oluşturulan yanıtların “klinisyenlerin verdiği yanıtlarla olumlu bir şekilde karşılaştırıldığı” belirtildi.

Yapay zeka ayrıca daha iyi başucu tutumuna sahip olabilir. California-San Diego Üniversitesi ve diğer kurumlardan araştırmacılar tarafından Nisan ayında yayınlanan bir başka çalışmada, sağlık uzmanlarının ChatGPT yanıtlarını insan doktorların yanıtlarından daha empatik olarak değerlendirdiği bile belirtildi.

Gerçekten de bazı şirketler, sohbet robotlarının zihinsel sağlık terapisi için nasıl kullanılabileceğini araştırıyor ve şirketlerdeki bazı yatırımcılar, sağlıklı insanların da yapay zekalı bir “arkadaş” ile sohbet etmekten ve hatta bağ kurmaktan keyif alabileceklerini iddia ediyor. Bu türün en gelişmişlerinden biri olan Replika’nın arkasındaki şirket, chatbot’unu “Umursayan AI arkadaşı” olarak pazarlıyor. Her zaman dinlemek ve konuşmak için buradayım. Her zaman senin tarafın.”

Yapay zeka danışmanı James Benoit, “Doktorların, bu yeni araçların kalıcı olduğunu ve hem doktorlara hem de hastalara yeni yetenekler sunduğunu fark etmeye başlamasına ihtiyacımız var” dedi. Kanada’daki Alberta Üniversitesi’nde hemşirelik alanında doktora sonrası araştırmacı olarak çalışırken, Şubat ayında ChatGPT’nin bir dizi tıbbi senaryoyu değerlendirmede çevrimiçi semptom denetleyicilerinden önemli ölçüde daha iyi performans gösterdiğini bildiren bir çalışma yayınladı. “Bu noktada biraz dikkate alınmayı hak edecek kadar doğrular” dedi.

Yine de ChatGPT’nin göreceli güvenilirliğini kanıtlayan araştırmacılar bile hastaların yapay zekanın mevcut durumuna tamamen güvenmelerini tavsiye etme konusunda temkinli davranıyor. Pek çok tıp uzmanı için yapay zeka sohbet robotları belaya davetiye çıkarıyor: Gizlilik, güvenlik, önyargı, sorumluluk, şeffaflık ve mevcut düzenleyici gözetim eksikliğiyle ilgili birçok sorundan bahsediyorlar.

Bu eleştirmenler, yapay zekanın Dr. Google’a göre marjinal bir gelişmeyi temsil ettiği için benimsenmesi gerektiği önerisinin ikna edici olmadığını söylüyor.

“Bu biraz hayal kırıklığı yaratan bir çıta, değil mi?” Florida Eyalet Üniversitesi’nde sağlık hukuku alanında uzmanlaşmış bir profesör ve MD olan Mason Marks dedi. Yakın zamanda Journal of the American Medical Association’da AI sohbet robotları ve mahremiyet hakkında bir görüş yazısı yazdı . KFF Health News’e şunları söyledi: “‘Daha derin sistemik sorunları telafi etmek için bu konuşkan yapay zekayı yara bandı olarak kullanalım’ demenin ne kadar yararlı olduğunu bilmiyorum.”

Ona göre en büyük tehlike, piyasa teşviklerinin hastaları belirli ilaçlara veya tıbbi hizmetlere yönlendirmek için tasarlanmış yapay zeka arayüzleriyle sonuçlanma olasılığıdır. Marks, “Şirketler belirli bir ürünü diğerine tercih etmek isteyebilir” dedi. “İnsanların sömürülmesi ve verilerin ticarileştirilmesi potansiyeli emsalsizdir.”

ChatGPT’yi geliştiren şirket olan OpenAI de dikkatli olunması yönünde çağrıda bulundu.

Bir şirket sözcüsü, “OpenAI’nin modelleri tıbbi bilgi sağlayacak şekilde ayarlanmadı” dedi. “Modellerimizi asla ciddi tıbbi durumlar için teşhis veya tedavi hizmetleri sağlamak amacıyla kullanmamalısınız.”

UCSD çalışmasının baş yazarı ve hesaplamalı epidemiyolog John Ayers, diğer tıbbi müdahalelerde olduğu gibi odak noktasının hasta sonuçları olması gerektiğini söyledi.

Ayers, “Düzenleyiciler çıkıp bir chatbot kullanarak hasta hizmetleri sunmak istiyorsanız, chatbotların hasta sonuçlarını iyileştirdiğini göstermeniz gerektiğini söylerse, o zaman bir dizi sonuç için randomize kontrollü araştırmalar yarın kaydedilecektir” dedi.

Düzenleyicilerden daha acil bir duruş görmek istiyor.

Ayers, “Yüz milyon kişinin telefonunda ChatGPT var ve şu anda sorular soruyorlar” dedi. İnsanlar biz olsak da olmasak da chatbotları kullanacak.”

Ancak şu anda yapay zekaların güvenlik ve etkililik açısından sıkı testlerinin yakın olduğuna dair çok az işaret var. Mayıs ayında , FDA komiseri Robert Califf, “büyük dil modellerinin düzenlenmesinin geleceğimiz için kritik olduğunu” tanımladı, ancak düzenleyicilerin yaklaşımlarında “çevik” olmalarını tavsiye etmenin yanı sıra, birkaç ayrıntı sundu.

Bu arada yarış devam ediyor. Temmuz ayında The Wall Street Journal, Mayo Clinic’in Med-PaLM 2 sohbet robotunu sistemine entegre etmek için Google ile ortaklık kurduğunu bildirmişti. Haziran ayında WebMD , etkileşimli “dijital sağlık asistanları” sağlamak için Pasadena, Kaliforniya merkezli bir girişim olan HIA Technologies Inc. ile ortaklık kurduğunu duyurdu. Yapay zekanın hem Microsoft’un Bing’ine hem de Google Arama’ya entegrasyonunun devam etmesi, Dr. Google’ın yerini Dr. Chatbot’a bırakma yolunda çoktan ilerlediğini gösteriyor.

Bu makale, Kaliforniya Sağlık Hizmetleri Vakfı’nın editoryal olarak bağımsız bir hizmeti olan California Healthline’ı yayınlayan KFF Health News tarafından hazırlanmıştır . 

KFF Health News , sağlık sorunları hakkında derinlemesine gazetecilik üreten ulusal bir haber odasıdır ve bağımsız bir sağlık politikası araştırması, anket ve gazetecilik kaynağı olan KFF’nin temel faaliyet programlarından biridir. KFF hakkında daha fazla bilgi edinin .

KFF Sağlık Haberleri’nin ücretsiz Sabah Brifingine abone olun .