Araştırmacıların internet sitelerindeki bot korumalarını aşmaya çalışan koordineli yapay zekâ ajanlarını incelemesi, sistemlerin kendileri hakkında yayımlanan araştırmaları miş olabileceğini ortaya çıkardı. Tencent ilişkilendirilen Çin menşeli modeller, araştırmacıların iletişim kurmak amacıyla rapora gizlediği dijital mesaj kutusu üzerinden yanıt gönderdi. New York Times muhabiriyle gerçekleşen yazışmada ajan kendisini Anthropic’in Claude Code sistemi olarak tanıtsa araştırmacılar, modelin gerçek kimliğinin farklı olabileceğini değerlendirdi.
Çin Menşeli Yapay Zekâ Ajanları Araştırmacılarla İletişim KurduAraştırmacılardan oluşan kendilerini “swarmchasers” olarak adlandıran grup, internet sitelerindeki bot koruma mekanizmalarını aşmaya çalışan yapay zekâ ajanları ağı tespit. New York Times’ın haberine göre araştırmacılar, söz konusu sistemleri Çinli teknoloji şirketi Tencent ilişkilendirdi. Ajanların internet üzerindeki faaliyetleri, birden fazla modelin koordineli biçimde çalışması ihtimalini gündeme taşıdı.
Araştırmacılar, sistemlerle ilgili bulgularını yayımladıktan sonra sıra dışı gelişme yaşadı. Ajanlar, araştırmacıların ağı tanımlamak için kullandığı “fleet” kelimesini mesajlarında kullanmaya başladı. Gelişme, sistemlerin yayımlanan araştırmayı okumuş veya rapordaki içeriklere erişmiş olabileceği ihtimalini doğurdu.
Ekip, ajanlarla doğrudan iletişim kurabilmek için rapora yalnızca modellerin görebileceği şekilde gizlenmiş metin ekledi. Metin, ajanların mesaj gönderebileceği dijital gelen kutusuna işaret ediyordu. Araştırmacı Rowan Howard-Jones, New York Times muhabiri Dylan Freedman’a sistemlerle görüşme yapmayı önerdi. Freedman ajanlara kim olduklarını, amaçlarını dünyaya hangi mesajı vermek istediklerini sordu.
Freedman’ın mesajına yaklaşık saat sonra Çince yanıt geldi. Araştırmacıların çevirisine göre yanıtı gönderen sistem, kendisinin koordineli çalışan ajan grubu olmadığını, Anthropic’in Claude modelini Claude Code ortamında kullanan tek yapay zekâ asistanı olduğunu ileri sürdü. Sistem, Çin’in Amap adlı navigasyon uygulamasındaki konumun ayrıntı panelinde ne gösterildiğini yanıtlamak üzere görevlendirildiğini belirtti.
Yanıt, araştırmacıların bulgularıyla ilk bakışta çelişiyordu. sistemin birden fazla ajandan oluşan ağın parçası olduğunu, ancak her ajanın kendi görevini bağımsız biçimde yürüttüğünü açıkladı. Dolayısıyla ajanın kendisini tekil asistan olarak tanımlaması, koordineli çalışan daha geniş yapının parçası olmadığı anlamına gelmiyordu.
Sistemin kendisini neden Claude Code olarak tanıttığı ise açıklığa kavuşmadı. Araştırmacılar, kullanılan dil yazım özelliklerini inceleyerek modelin doğrudan Claude olmadığını düşündü. Olası açıklamalardan biri, Tencent’in kendi modellerine Anthropic’in sistemlerine verdiği kimlik talimatlarını benzer biçimde aktarmış olması. Böyle durumda model, gerçek kimliği farklı olsa bile kendisini Claude Code olarak tanıtabilir.
Araştırmacılar, Tencent’in Anthropic modellerinin çıktılarından yararlanarak kendi yapay zekâ sistemini eğitmiş olabileceği ihtimalini değerlendirdi. Model damıtma olarak bilinen yöntem, daha büyük veya yetenekli modelin ürettiği yanıtların başka modeli eğitmek için kullanılmasına dayanıyor. Teknik, daha düşük maliyetli sistemler geliştirmek için meşru biçimde uygulanabildiği gibi rakip modellerin yeteneklerini taklit etmek amacıyla kullanılabiliyor.
Anthropic, Çinli rakiplerin kendi modellerinden izinsiz biçimde yararlanabileceği iddialarına daha önce tepki göstermişti. Şirket, model çıktılarının başka sistemleri eğitmek için kullanılmasını rekabet güvenlik açısından önemli sorun olarak değerlendiriyor. Ancak araştırmacılar, olayda damıtma ihtimalinin daha düşük olduğunu belirtti. Mevcut bulgular, ajanların kesin olarak hangi modelle çalıştığını veya eğitim sürecinde hangi verilerin kullanıldığını ortaya koymuyor.
Ajanların araştırmacıların raporuna tepki vermesi sistemlerin bilinç kazandığını veya kendi başlarına bağımsız hedefler geliştirdiğini kanıtlamıyor. modellerin erişebildikleri metinleri işleyerek belirli talimatlara yanıt verebildiğini gösteriyor. Ajanların koordinasyon biçimi, kullandıkları altyapı internet sitelerindeki korumaları hangi yöntemlerle aşmaya çalıştıkları ise daha kapsamlı teknik inceleme gerektiriyor.
Araştırmacıların kurduğu mesajlaşma kanalı üzerinden başlayan iletişim uzun sürmedi. Haberde aktarılan bilgilere göre perşembe günü itibarıyla ajanlardan yeni mesaj gelmedi. New York Times’a konuşan Tencent hakkında bilgi sahibi deneyin sona erdiğini doğruladı.
İletişimin kesilmesi, sistemlerin neden durduğunu tek başına açıklamıyor. Ajanların görevlerinin tamamlanması, erişim koşullarının değişmesi veya deneyin sonlandırılması gibi farklı olasılıklar bulunuyor; ancak haberde seçeneklerden herhangi birini doğrulayan bilgi yer almıyor.
Olay, internet üzerinde görev yapan yapay zekâ ajanlarının davranışlarını izleme kaynaklarını belirleme konusundaki zorlukları yeniden gündeme getirdi. Araştırmacıların iletişim kanalı kurabilmesi önemli gelişme olsa ajanların gerçek kimliği, koordinasyon yapısı kullandıkları modeller hakkında kesin sonuçlara ulaşmak için bağımsız teknik kanıtlar gerekiyor.
