Ünlü yapay zeka firması Open AI’ın DALL-E2 adlı yapay zeka sistemi kendine özgü bir dil geliştirdi. Yazılı ifadeleri son derece gerçekçi görsellere dönüştürebilen sistemin kullandığı bazı kelimelerin başka hiçbir dilde karşılığı olmadığı görüldü.
2015’te kurulan teknoloji devi, yazılı tanımları görsele dönüştürme amacıyla DALL-E isimli bir yapay zekâ sistemini geliştirmeye başlamıştı. Firma önceki aylarda bu sistemin daha gelişkin versiyonu DALL-E2’yu kullanmaya başlamıştı.
Bu sistem, kendisiyle paylaşılan nitelikler ve tanımları baz alarak benzersiz görseller ve sanat eserleri oluşturabilme yeteneğiyle büyük ilgi toplamıştı. Ancak kendi gizli dilini oluşturması bazı yapay zeka meraklılarını ürküttü.
Kelimenin Hiçbir Dilde Karşılığı Yok!
Sistemin gizli dilini ABD’deki Texas Üniversitesi’nde bilgisayar bilimi alanında doktora öğrencisi Giannis Daras fark etti. Daras, viral olan bir Twitter zincirinde yapay zeka sistemiyle ilgili incelemesini takipçileriyle paylaştı.
Some words from the DALLE-2 language can be learned and used to create absurd prompts. For example, "painting of Apoploe vesrreaitais" gives a painting of a bird. "Apoploe vesrreaitais" means to the model "something that flies" and can be used across diverse styles. (5/n) pic.twitter.com/w73iKN4kM1
— Giannis Daras (@giannis_daras) May 31, 2022
Zincirde aktarılana göre, Daras sistemden “sebzeler hakkında konuşan çiftçiler” görüntüsünü oluşturmasını istedi.
Ortaya çıkan görüntüde gerçekten de iki çiftçinin bir şeyler hakkında konuştuğu görülüyordu. Çiftçilerden birinin elinde yeşil yapraklı sebzeler vardı. Ayrıca görselin üst kısmında göze çarpan “vicootess” kelimesi Daras ve bir meslektaşının dikkatini çekti. Zira bu kelimenin hiçbir dilde karşılığı yoktu.
‘Güvenlik ve Yorumlamayla İlgili Birçok Sorun Yaratıyor’
Daha sonra kelimeyi algoritmaya geri yükleyen Daras, bunun yapay zeka sisteminin kendi dilinde sebze anlamına geldiğini keşfetti. Zira sistem bu kelime karşılığında sebze görüntüleri oluşturuyordu.
Bunun ardından sıra ilk görseldeki çiftçilerin konuşma balonları içinde yazan kelimelere geldi: “Poploe vesrreaitars”. Daras bu kelimeleri sisteme yüklediğinde de birçok kuş görüntüsü elde ettiğini aktardı. Daras, bu tespitlerini meslektaşıyla kaleme aldığı, henüz hakem onayından geçmemiş bir makalede de anlattı.
Sistemin birincil işlevinin altında yatan veya onunla paralel çalışan bir “gizli sözcük dağarcığı” oluşturduğunu ifade eden bilim insanı, paylaştığı tweette; “DALLE-2’nun gizli bir dili var. Bu keşif, güvenlik ve yorumlamayla ilgili birçok sorun yaratıyor” ifadelerini kullandı.
