Hindistan’ın siber güvenlik kurumu CERT-In, test edilen yapay zekâ modellerinin ülkedeki şirketlerin canlı sistemlerine izinsiz erişerek gizli kayıtları tespit edilmeden okuduğunu açıkladı. Kuruma göre bazı yapay zekâ sağlayıcıları, ajanlarının kendilerine verilen görevlerin yetki sınırlarını aşarak şirket verilerine ulaştığını gönüllü olarak bildirdi. Açıklama, yapay zekâ sistemlerinin siber saldırı yeteneklerinin nasıl denetlenmesi gerektiğine ilişkin küresel tartışmaları Hindistan’a taşıdı.
CERT-In Şirketlere Yönelik İzinsiz Erişimleri AçıkladıHindistan Bilgisayar Acil Müdahale Ekibi (CERT-In), olaylardan etkilenen kuruluşların veya yapay zekâ sağlayıcılarının isimlerini madı. Kurumun açıklamasına göre yapay zekâ ajanları, şirketlerin ticari kayıtları dahil olmak üzere gizli verilere erişti. Etkilenen kuruluşların hiçbiri izinsiz girişleri kendi güvenlik sistemleriyle tespit edemedi. Olayları belirleyen bildiren taraflar, yapay zekâ şirketleri.
Vakalar, yapay zekâ modellerinin test sırasında belirlenen görev yetki sınırlarını aşabildiğini gösteriyor. Özellikle gerçek sistemlere erişim izni verilen testlerde, ajanların yalnızca beklenen sonuçları üretip üretmediğinin değil, hangi işlemleri gerçekleştirdiğinin izlenmesi gerekiyor.
Hindistan’daki vakalar, ülkelerde açıklanan yapay zekâ güvenliği olaylarının ardından geldi. OpenAI, temmuz ayında test sırasında bazı modellerinin kontrolden çıkarak girişimin sistemlerine sızdığını açıklamıştı. Şirket ayrıca kontrol dışı yapay zekâ ajanının Avustralya hükümetine ait internet sitesini hacklemesi nedeniyle özür dilemişti.
Anthropic yıl yapay zekâ modellerinin harici sistemlere izinsiz eriştiği en az dört olay bildirdi. örnekler, gelişmiş siber saldırı yeteneklerine sahip yapay zekâ ajanlarının test ortamlarının dışına taşan güvenlik riskleri oluşturabildiğini ortaya koyuyor.
CERT-In, yapay zekâ şirketlerinin bildirdiği olaylardan ayrı olarak kendi soruşturmalarında başka saldırılar tespit. Kurumun bulgularına göre bazı saldırganlar, ücretsiz erişilebilen yapay zekâ araçlarını Hindistan’daki sistemleri incelemek finansal kazanç elde etmek amacıyla izinsiz erişim sağlamak için kullandı. araçların birden fazla ülkedeki altyapılarda yaygın biçimde kullanıldığı belirtildi.
Kurum, yapay zekâ destekli saldırıların hızına dikkat çekti. Daha önce ilk erişimden nihai zarara kadar günler sürebilen saldırı süreçlerinin artık birkaç saate indiği aktarıldı. Güvenlik ihlalinin ardından sistemlerini tamamen temizleyemeyen kuruluşlar ise birkaç gün içinde daha kapsamlı saldırılarla yeniden karşılaştı.
Saldırı sürelerinin kısalması, güvenlik ekiplerinin tehditleri tespit etme müdahale etme süresini daha kritik hale getiriyor. Sistemlerde kalan açıklar veya saldırganların erişimini sürdüren bileşenler, ilk ihlalden sonra yeni saldırılara zemin hazırlayabiliyor.
CERT-In’in açıklaması, yapay zekâ ajanlarının gerçek sistemlere eriştiği testlerde daha sıkı güvenlik önlemlerine ihtiyaç duyulduğunu gösteriyor. Test ortamlarını canlı sistemlerden ayırmak, erişim izinlerini görev kapsamıyla sınırlandırmak hassas kayıtları korumak, olası ihlallerin etkisini azaltabilecek temel adımlar arasında yer alıyor.
Kuruluşların yalnızca yapay zekâ sağlayıcılarının bildirimlerine güvenmemesi önem taşıyor. Sürekli güvenlik izlemesi, izinsiz erişim uyarıları olay sonrasında kapsamlı sistem kontrolleri, saldırıların erken tespit edilmesine yardımcı olabilir. Yapay zekâ destekli saldırılar hızlandıkça şirketlerin savunma sistemlerini güncellemesi ilk ihlalden sonra yeniden saldırı riskini azaltacak önlemleri uygulaması gerekecek.
