Son zamanlarda, ChatGPT Amerika’daki kullanıcılarını “dil labirenti” benzeri bir duruma sürükledi. Genellikle akıcı bir şekilde İngilizce yanıtlar veren bu yapay zeka sistemi, son bir ay içerisinde açıklanması zor bir şekilde Arapça gibi farklı dillerden kelimeleri cevaplarına dahil etmeye başladı. Sosyal medyada hızla yayılan ekran görüntüleri, mutfak tariflerinden iş raporlarına kadar pek çok metnin aniden yabancı alfabelerle karıştığını gösteriyor. Başlangıçta birçok kullanıcı, bu durumu cihazlarında bir virüs ya da yerel bir ayar hatası olarak düşünse de, sorunun kökeninde daha karmaşık bir sistemsel mesele olduğu anlaşıldı.
Reddit üzerinde deneyimlerini paylaşan bir kullanıcı, Arapça konuşulan bir bölgede olmadığını belirtmesine rağmen hem mobil hem de masaüstü cihazlarında benzer sorunlar yaşadığını ifade ediyor. Örnek vermek gerekirse, yapay zeka bir kek tarifi verirken malzemelerden birinin adını aniden Arapça harflerle yazabiliyor. Bu durum yalnızca Arapça ile sınırlı kalmayıp, İbranice, Çince ve Ermenice gibi diğer dillerin de zaman zaman devreye girdiği görülüyor.
Bu garip dil değişikliklerinin arkasında yatan sebep ise yapay zekanın temel çalışma mantığı. Büyük dil modelleri, metinleri “token” adı verilen küçük veri parçaları halinde işler. Bu parçalar bazen bir harf dizisi, bazen de bir ek olabilir. Yapay zeka, bir sonraki adımı hesaplarken matematiksel olasılıklara ve verimliliğe odaklanıyor. Eğer İngilizce bir kavramı ifade etmek için üç farklı veri parçası gerekiyorsa ve aynı anlamı taşıyan başka bir dildeki tek bir parça daha “kısa ve verimli” görünüyorsa, sistem bu kelimeyi otomatik olarak cümle içerisine yerleştirebilir. Bu durumda, yapay zeka bilinçli bir dil değişikliği yapmak yerine, en verimli yolu seçiyor.
OpenAI daha önce benzer sorunlarla karşılaşmış olsa da, şu anki durum diğerlerinden farklı. Önceki hatalarda yapay zeka anlamsız karakter dizileri üretirken, şu anda araya giren kelimeler bağlamla mükemmel bir uyum içerisinde. Örneğin, düşük yağlı bir üründen bahsedilirken “az” kelimesinin yerini tam olarak Arapça karşılığı alabiliyor. Bu durum, hatanın rastgele bir veri bozulmasından ziyade sistemin karar verme mekanizmasındaki bir değişimden kaynaklandığı izlenimini veriyor.
Kullanıcılar ise bu duruma karşı şaşkınlık ve merak içerisinde. Bir kullanıcının bu durumu ChatGPT’ye sorması sonrasında aldığı “Yanlışlıkla araya sızmış” cevabı, yapay zekanın kendi hatasını bile absürt bir insan diliyle savunmaya çalıştığını gösteriyor. OpenAI yetkililerinden bu yeni dil karmaşası ile ilgili henüz kapsamlı bir teknik açıklama gelmemiş olsa da, bu durum milyarlarca dolarlık yapay zeka sistemlerinin hala ne kadar öngörülemez olabileceğini bir kez daha gözler önüne seriyor.
