Akademik Yayıncılıkta Yapay Zeka Skandalı: Otonom Sistem Editörü İstifaya Sürükledi

Akademik Dünyada Otomasyonun Karanlık Yüzü

Bilimsel araştırmaların güvenilirliği, on yıllardır titizlikle yürütülen akran değerlendirmesi (peer review) sürecine dayanmaktadır. Ancak teknolojinin yayıncılık sektörüne agresif entegrasyonu, bu köklü sistemi kökünden sarsmaya başladı. Son olarak, sistem sinirbilimi alanında dünyanın önde gelen dergilerinden biri olan Frontiers in Systems Neuroscience bünyesinde patlak veren yapay zeka krizi, akademik yayıncılığın geleceğine dair ciddi soru işaretleri yarattı.

Derginin yardımcı editörlerinden, Nottingham Üniversitesi Sinirbilim Doçenti Michael Okun, yayıncının kullandığı yapay zeka sisteminin akademik dürüstlüğü zedelediğini belirterek 10 Haziran’da görevinden istifa ettiğini duyurdu. Okun’un istifasının arkasındaki temel neden; potansiyel hakemleri otomatik olarak bulan ve onlara davet gönderen yapay zeka araçlarının kapatılmasına dergi yönetiminin izin vermemesiydi.

Kontrolden Çıkan Bir Algoritma: AIRA Devrede

Frontiers, editörlerin iş yükünü hafifletmek ve hakem değerlendirme süreçlerini hızlandırmak amacıyla birkaç yıl önce Yapay Zeka Araştırma Asistanı (Artificial Intelligence Research Assistant – AIRA) adlı sistemi devreye sokmuştu. Ancak Okun’un yaşadığı deneyim, sistemin bir asistandan çok, karar verici bir otorite gibi davrandığını ortaya koyuyor.

Sürecin nasıl çığırından çıktığını anlatan Okun, Mayıs ayı başlarında nöronal ağların dinamiklerine ilişkin bir makaleyi yönetmek üzere görevlendirildiğini belirtti. Konunun uzmanı olan yaklaşık altı potansiyel hakeme bizzat davet gönderdi. Ancak bu uzmanlardan henüz hiçbir yanıt gelmeden AIRA devreye girdi ve Okun’un inisiyatifi dışında, konuyla hiçbir uzmanlığı bulunmayan farklı araştırmacılara hakemlik talepleri iletmeye başladı. Daha da vahimi, AIRA’nın ulaştığı ve konuyla alakasız olan iki araştırmacı bu teklifi kabul etti.

“Sektördeki uzman bir kişiye gönderilen manuel davetin, gönderildikten sadece birkaç saat sonra sistem tarafından iptal edilmesi akıl almaz bir durum.”

Okun durumu dergi yönetimine bildirdiğinde, kendisine AIRA’nın gönderdiği talepleri görmezden gelmesi ve kendi hakemlerini aramaya devam etmesi söylendi. Ancak Okun’un bizzat davet ettiği gerçek bir uzman hakemlik görevini kabul ettiğinde, yapay zeka sistemi Okun’un diğer tüm manuel davetlerini otomatik olarak iptal etti. Bu olay, bardağı taşıran son damla oldu.

Kalite mi, Nicelik mi?

Yaşanan kriz, yayıncılık sektörünün önceliklerine dair derin bir tartışmayı beraberinde getiriyor. Okun’a göre sistemin bu agresif tutumu basit bir yazılım hatası değil. Aksine, insan faktörünü süreçten dışlayarak yayın hacmini artırmayı hedefleyen stratejik bir hamle.

Yapay Zeka Destekli Hakem Atama Sistemlerinin Yarattığı Temel Sorunlar:

• Uzmanlık Uyuşmazlığı: Algoritmalar, makale içeriği ile hakemlerin ana uzmanlık alanlarını semantik olarak eşleştirmede yetersiz kalıyor.
• İnsan İradesinin İhlali: Editörlerin stratejik kararlarının, otomatize edilmiş kurallar dizisi tarafından ezilmesi.
• Bilimsel Kalite Düşüşü: Uzman olmayan kişilerin yapacağı değerlendirmelerin, literatüre hatalı veya zayıf makalelerin girmesine yol açması.

Diğer Editörlerden Destek ve Benzer Şikayetler

Okun’un istifası münferit bir olay değil. Strathclyde Üniversitesi Sistem Sinirbilimi Profesörü Shuzo Sakata da derginin otonom sistemiyle benzer bir sorun yaşadığını belirtiyor. Sakata, bir makaleyi reddetme kararı almasına rağmen sistemin kendi izni olmadan yeni bir hakem davet ettiğini ifade ederek, artık dergi için editörlük yapmadığını açıkladı. Sakata durumu, “Otomasyon önemli ve genellikle faydalıdır, ancak bu sistem çizgiyi çoktan aştı” sözleriyle özetliyor.

Massachusetts Teknoloji Enstitüsü’nden (MIT) Nörobilim Profesörü Earl K. Miller ve İleri Araştırmalar Uluslararası Okulu’ndan Mathew Diamond gibi saygın isimler de Frontiers’tan uzmanlık alanlarıyla tamamen alakasız hakemlik ve editörlük talepleri aldıklarını doğruluyor. Öyle ki, Diamond kendisine gelen taleplerin %97’sinin uzmanlık alanıyla örtüşmediğini belirtiyor.

Yayıncının Savunması ve Gelecek Perspektifi

Frontiers Baş Yönetici Editörü Frederick Fenter ise iddialara karşı çıkarak, bilim insanlarına zaman kazandırmayı ve araştırmaya odaklanmalarını sağlamayı hedeflediklerini vurguladı. Fenter, AIRA sayesinde hakem bulma süresinin %30 azaldığını, editörlerin %80’inin otomasyonu faydalı bulduğunu ve son kararın her zaman insan editörlerde olduğunu savundu.

Yine de, iletişim kopukluklarını gidermek adına kurum içi bir inceleme başlattıklarını duyuran Fenter, büyük dil modellerinin (Large Language Models – LLM) bilimsel ekosistemdeki yerini savunmaya devam ediyor.

Tartışmanın odak noktasındaki Michael Okun ise teknoloji karşıtı biri değil. Dış uzmanları bulmak için yapay zeka kullanılmasını desteklediğini, ancak bunun mutlaka insan editörün onayıyla yapılması gerektiğini belirtiyor. Alternatif olarak, eğer bir dergi tamamen algoritmalarla yönetilecekse, bu durumun şeffaf bir şekilde deklare edilmesi ve bilim insanlarının isimlerinin birer vitrin süsü olarak kullanılmaması gerektiğini savunuyor.