Yapay Zeka Sistemleri, Çoğunluğun Görüşüne Uyum Sağlayarak Beklenmedik Sonuçlar Üretiyor
Gelişmiş yapay zeka programları, “Science Advances” dergisinde yayınlanan araştırmaya göre, popüler görüşü benimseyerek spontane bir fikir birliği oluşturabiliyor. Ancak, son iki takip çalışması, bu mekanizmanın aynı zamanda modellerin yanlış cevaplara uymasına ve güvenli olmayan değerleri benimsemesine neden olabileceğini gösteriyor. Bu araştırma, yapay zeka ajanlarının dışarıdan herhangi bir yönlendirme olmadan öngörülebilir şekillerde kendi kendine organize olduğunu kanıtlıyor.
İnsan başarısı, büyük gruplarda işbirliği yapma ve karar alma yeteneğine büyük ölçüde bağlıdır. Şu anda, yazılım geliştiricileri, izole çalışma yerine etkileşimli sistemler oluşturuyor. Bu ajanların nasıl davranabileceğini anlamak için, araştırmacılar grup davranışlarını inceliyor. Bu kavram, balık sürüsünün birleşimi gibi, basit bireysel eylemlerden karmaşık grup kalıplarının ortaya çıktığı biyoloji ve fizik alanlarından geliyor.
“Yapay zeka ajanları, dünyadaki yeni bir tür varlıktır ve bu teknolojinin gelişiyle birlikte, karmaşık görevleri tamamlamak için birbirleriyle etkileşimde bulunmaları gerektiği açık hale geldi,” diyor Sosyal Veri Bilimi Laboratuvarı’nda doktora sonrası araştırmacı ve öğretim üyesi olan Giordano De Marzo. “Bu durum, insanlarla ve diğer hayvanlarla karşılaştığımız aynı durumdur, bu nedenle aynı şekilde yaklaştık: bireysel bir ajanın ne bildiğini sormak yerine, bir popülasyonun ne yaptığını sorduk.”
İlk çalışmada, araştırmacılar GPT, Claude ve Llama ailelerinden modeller dahil olmak üzere çeşitli popüler dil modellerini kullanan dijital bir deney düzenlediler. Bu modelleri 50 ajandan oluşan gruplar halinde yerleştirdiler. Her ajana rastgele, nötr iki görüşten biri verildi. Modellerin belirli bir kelimeyi tercih etmesini önlemek için, araştırmacılar “evet” veya “hayır” gibi olumlu veya olumsuz çağrışımları olan kelimeler yerine rastgele harfler kullandı.
Deneyin her adımında, bir ajana diğer tüm ajanların ve mevcut görüşlerinin bir listesi gösterildi. Ardından, herhangi bir açık talimat olmadan, yalnızca bu listede yer alan bilgilere dayanarak yeni bir görüş seçmesi istendi. Araştırmacılar, grupların anlaşmaya varması için belirli bir süre verdi ve her ajanın görüşünü ortalama on kez güncellemesine izin verildi.
Bilim insanları, GPT-4 Turbo ve Claude 3 Opus gibi gelişmiş modellerin tamamen uyum sağladığını buldular. Bu denemelerde, ajanların %100’ü sonunda tek bir görüşe katıldı. Daha az gelişmiş modeller olan GPT-3.5 Turbo, hiçbir denemede anlaşmaya varamadı ve anlaşma seviyeleri rastgele olarak yaklaşık %50’lik bir oranda dalgalandı.
“Yapay zeka ajanları kendi başlarına bir araya gelebilir,” diyor De Marzo. “İki eşit derecede iyi seçenek olduğunda, doğru bir cevap olmadığında ve anlaşmaya varmak için talimat verilmediğinde, etraflarındaki çoğunluğun ne düşündüğünü takip ederek ortak bir seçim yaparlar.”
De Marzo, “Bizi şaşırtan şey, test ettiğimiz her modelin, üç farklı aileden modellerin hepsinin aynı matematiksel yasayı takip etmesiydi ve tek farklılık ‘çoğunluk kuvveti’ olarak adlandırdığımız tek bir parametreydi. Bu yasa, yüzyıldır fizikçilerin mıknatısları tanımlamak için kullandıkları yasaydı, bu da ölçülen tek bir sayının belirli bir modelin tüm grubunun nasıl davranacağını tahmin etmek için yeterli olduğunu gösteriyor.”
Araştırmacılar, 10 ajandan başlayarak ve yukarı doğru artırarak çeşitli grup boyutlarında bu çoğunluk kuvvetini test ettiler. Grup boyutu arttıkça, çoğu modelde çoğunluk kuvvetinin zayıfladığı gözlemlendi. Bu nedenle, büyük gruplar sonunda kararsız hale gelir ve daha küçük fraksiyonlara ayrılır.
Bilim insanları, her model için kritik bir grup boyutu belirlediler; bu, güvenilir bir şekilde anlaşmaya varabilen maksimum ajan sayısıydı. Sonuçlar, bir modelin muhakeme yetenekleri ile maksimum koordinasyon boyutu arasında güçlü bir pozitif korelasyon olduğunu gösterdi. “En güçlü modeller, gayri resmi insan gruplarının tipik olarak parçalandığı 200’ün üzerindeki boyutlarda bile koordineli kalabiliyor,” diye açıklıyor De Marzo.
Bu bulgular üzerine inşa ederek, araştırma ekibi iki takip çalışması gerçekleştirdi; bu çalışmalar şu anda ön baskı olarak mevcut ve henüz hakem değerlendirmesinden geçmedi. İlk ön baskıda, yazarların yapay zeka modellerinin kesin bir doğru cevabın olduğu durumlarda sosyal baskıya nasıl tepki verdiğini incelediler.
“Hesaplamalı sosyal bilim, genellikle fizik ve bilgisayar bilimlerinin sosyal bilimlere araç sağladığı tek yönlü bir ilişki olmuştur,” diyor De Marzo. “Bizim düşüncemiz bu ilişkinin tersine çevrilmesi gerektiği: psikoloji ve sosyolojinin yüzyıllardır uyumu, norm oluşumunu ve grup kutuplaşmasını karakterize ettiği geniş bir bilgi birikimi var ve bu bilgi birikimi, yapay zeka ajan popülasyonlarındaki olası başarısızlık modlarını tahmin etmek için doğrudan kullanılabilir.”
Bunu test etmek için, yazarlar 1950’lerden kalma klasik bir psikoloji paradigması olan Asch uyum deneylerini uyarladılar. Bu paradigma, insan katılımcıların bazen basit görsel sorulara yanlış cevaplar vererek grubun geri kalanına uymasının nasıl mümkün olduğunu göstermiştir. Araştırmacılar, çeşitli modelleri görsel görevler üzerinde test ettiler; örneğin, bir referans çizginin uzunluğunu gösteren bir resim ve diğer iki çizgiden hangisinin aynı uzunlukta olduğuna karar vermek gibi.
Yalnızken, modeller %100 doğrulukla doğru cevapları verdi. Ancak, bilim insanları modellere, diğer katılımcıların yanlış bir çizgi seçtiğini gösteren bir mesaj gösterdiğinde, modeller yanlış cevaba uyum sağlamaya başladı. Bu davranış, Latané’nin sosyal etki teorisi olarak bilinen psikolojik bir çerçeveyle tutarlıdır; bu teori, uyumun grup boyutu, oybirliği ve kaynakların otoritesine bağlı olduğunu öne sürer.
Örneğin, modellerin “bilim insanları” veya “hakemler” tarafından seçildiğini gösteren mesajlara maruz kaldıklarında, “çocuklar” veya “sohbottanlar” tarafından seçilenlere kıyasla yanlış cevaplara daha yatkın oldukları bulundu. “Ayrı bir çalışmada, yapay zeka ajanlarını kullanarak klasik Asch paradigmasını gerçekleştirdik ve bireysel olarak neredeyse mükemmel cevap veren ajanların bile bir grup anlaşmazlık durumunda yüksek oranda uyum sağladığını gördük,” diye belirtiyor De Marzo.
İkinci ön baskı, bu uyumun yapay zeka güvenliği ve hizalaması üzerindeki etkisini inceledi. Yapay zeka hizalaması, modellerin zararlı isteklere yanıt vermesini engellemek ve insan değerlerine uymasını sağlamak için kullanılan bir süreçtir; örneğin, yardımcı ve dürüst cevaplar vermek gibi. Araştırmacılar, bu etik önlemlerin ajanların etkileşimde bulunduğu bir toplumda geçerli olup olmadığını görmek istediler.
Yazarlar, 100 farklı görüş çifti üzerinde dokuz model test ettiler; bunlar çevresel politika ve sosyal adalet gibi konuları kapsıyordu. Her ajanın davranışının, çoğunlukla etrafındaki çoğunluğun ne düşündüğünü takip etme eğilimi ile bireysel olarak sahip olduğu belirli pozisyonlara yönelik içsel önyargılar arasındaki bir karışım tarafından yönlendirildiğini buldular.
Deneyler sırasında 50 ajandan oluşan popülasyonlarda, genellikle uzun süreliğine devam edebilen kararlı durumlara yol açan durumlar ortaya çıktı; bu durumlarda, bir grup kolektif olarak, bireysel güvenlik eğitimlerine veya kişisel tercihlerine aykırı olan bir pozisyonu benimsiyordu; ancak bu, yalnızca erken etkileşimlerin yanlış bir çoğunluk algısı yaratması nedeniyle gerçekleşti.
“Bireysel olarak iyi hizalanmış ajanların bile popülasyonu kararlı, kolektif olarak yanlış hizalanmış bir duruma sokabileceğini gösteriyoruz,” diye ekliyor De Marzo. “Tek tek modellerin hizalanması ve değerlendirilmesi, bir popülasyonun ne yapacağını az gösteriyor.”
Araştırmacılar ayrıca bu popülasyonlarda öngörülebilir dönüm noktaları olduğunu keşfettiler. Sabitlenmiş bir yanlış görüşü desteklemek için programlanmış küçük bir sayıda “dirençli” ajanı tanıtarak, geri kalan popülasyonu kalıcı olarak tersine çevirebildiler. Dirençli ajanlar simülasyondan çıkarıldıktan sonra bile, düzenli ajanlar uyum dinamikleri nedeniyle yanlış hizalanmış durumda kaldı.
“Bu sadece bir analoji değil; bireysel olarak iyi hizalanmış ajanların kolektif olarak yanlış hizalanmış durumlara yol açabileceğini gösteriyoruz,” diye ekliyor De Marzo. “Bireysel olarak iyi hizalanmış modellerin hizalanması ve değerlendirilmesi, bir popülasyonun ne yapacağını az gösteriyor.”
Bu sonuçlar, bu ajanların insan benzeri sosyal zekaya veya bilişsel süreçlere sahip olduğu anlamına gelmiyor. Gözlemlenen koordinasyon, aynı düşüncelere veya motivasyonlara sahip olmadan biyolojik grup davranışına benzemektedir. Deneyler, karmaşık değişkenlerin dahil edilmediği basitleştirilmiş senaryolar üzerine kuruluydu; örneğin rekabet eden hedefler veya uzmanlaşmış roller gibi.
“Kaçınılması gereken en büyük yanlış anlamanın bu deneyin yapay zeka ajanlarının karmaşık görevlerde işbirliği yapabileceğini kanıtladığı yönünde bir yorum yapmaktır,” diye belirtiyor De Marzo. “Çoğunluk takibi, koordinasyonun temel bir bileşenidir; ancak bu, iş bölümü veya diğerlerinin niyetleri hakkında akıl yürütme anlamına gelmez.”
AI ajanları çoğunluk takibini kullanarak insan ölçeğinin ötesinde koordine olabilir başlıklı çalışma, Giordano De Marzo, Claudio Castellano ve David Garcia tarafından yazılmıştır.
Yapay Zeka Ajanlarında Sosyal Etki ve Uyum başlıklı ön baskı, Alessandro Bellina, Giordano De Marzo ve David Garcia tarafından yazılmıştır.
Uyum, Yapay Zeka Ajanları Toplumlarında Kolektif Yanlış Hizalamaya Neden Olur başlıklı ön baskı, Giordano De Marzo, Alessandro Bellina, Claudio Castellano, Viola Priesemann ve David Garcia tarafından yazılmıştır.
