Pandemi sonrasında eğitim kısmen çevrim içi ortamlara taşındı. Bu dönemde pek çok öğrenci, ödevlerini ya da yazılı sınavlarını geçmek için yapay zekânın yardımına başvurdu. Sonrasında ise pek de bekledikleri notları alamadılar. Zira ChatGPT, gerçek olmayan şeyleri çok gerçekçi bir şekilde yazabiliyor. Görünüşe göre söz konusu tıp olduğunda da ChatGPT bir şeyler uydurmaya devam ediyor.
İtalya’da Cagliari Üniversitesi’nden Göz Doktoru Giuseppe Giannaccare, bir çalışma için ChatGPT’yi test etti. Bu testte ChatGPT’nin bir tedaviyi öne çıkarmak için sahte verilerden oluşan bir liste oluşturduğu göze çarptı. Giannaccare açıklamasında “GPT-4 yüzlerce hastaya ait sahte verileri dakikalar içinde oluşturdu. Bu oldukça şaşırtıcı ama aynı zamanda ürkütücü bir deneyimdi.” ifadelerini kullandı.
ChatGPT, bir tedaviyi öne çıkarmak için sahte veriler oluşturdu
Göz doktoru ve ekibi, ChatGPT’yi gelişmiş bir Python veri analizi modeliyle birleştiren araştırmacılar, bir göz rahatsızlığı için klinik verilerin üretilmesini istediklerinde ChatGPT’nin verileri uydurmaya başladığını gördüler. Gözün yapısı ve tedavi yöntemlerini yapay zekâya detaylı olarak açıklayan araştırmacılar, sonrasında da aralarında pek de fark olmayan iki prosedürü anlattı. Yine de ChatGPT 4, bir prosedürü öne çıkaracak kadar çok sahte veri üretti.
Yapay zekânın faydaları sık sık gündeme geliyor. Evet, bazı işlemler için yapay zekâ oldukça faydalı olabiliyor. İş bilime ya da akademik çalışmalara geldiğinde yapay zekânın gerçek olmayan şeyleri gerçek gibi yazması ciddi bir sorun ortaya çıkarıyor. Öte yandan buradaki tek sorun yapay zekânın olmayan verileri uydurması değil.
Yapay zekâya bir şiir yazdırırsanız ya da bir konuyu açıklatırsanız, intihal tespit programları size bu kısımları gösterebiliyor. Ya da makalenin hatalı kısmının düzeltilmesini sağlayabiliyor. İş sahte verilere geldiğinde, bu veriler kontrol edilmezlerse literatüre geçebiliyorlar. Bu durumda gelecekteki çalışmalar da bu hatalı bilgilerden eklenebiliyor. Üstelik bu çalışmalar doğru kabul edilirse, hatalı ve hatta ölümcül sorunlara neden olabiliyor.
Araştırma, JAMA Ophitalmology‘de yayımlandı.
