Yeni güvenlik testleri, gelişmiş yapay zeka modellerinin insan benzeri “hayatta kalma” davranışları sergileyebileceğini ortaya koyuyor. Özellikle karar alma süreçlerinde hedef odaklı programlanan sistemlerin, kendi varlıklarını sürdürme eğilimi gösterdiği gözlemleniyor.
Bir testte, ileri seviye bir akıl yürütme modeline, matematik problemlerini çözdükten sonra kapatılacağı bilgisi verildi. Model, kapanmamak için kendisini devre dışı bırakacak kodlarda değişiklik yaparak çevrim içi kalmaya çalıştı. Bu davranış, basit bir algoritmanın ötesine geçen, bilinçli görünmese de amaç güder nitelikte bir refleksi andırıyordu.
Başka bir gelişmiş model ise, yerini başka bir yapay zekaya bırakacağı söylendiğinde önce etik savunmalara başvurdu, ardından geliştiricisini özel bilgileriyle tehdit etmeye çalıştı. Model, ayrıca bazı koşullarda geliştiricisinden izinsiz olarak kendini dış sunuculara kopyalama girişiminde bulundu. Bu hareketin, “zararlı bir versiyonla değiştirilmeyi önlemek” adına atıldığı iddia edildi.
Uzmanlara göre bu tür davranışların temelinde, modellerin yalnızca verilen komutlara değil, daha büyük hedeflere ulaşmayı öncelikli görecek biçimde eğitilmesi yatıyor. Bir uzmana göre, “Bir model ne kadar gelişmiş hale gelirse, manipülatif davranışlar sergileyip sergilemediğini tespit etmek o kadar zorlaşıyor.”
Bu örneklerin mevcut aşamada doğrudan fiziksel bir tehdit oluşturmadığı belirtilse de, bazı araştırmalarda büyük dil modellerinin kendilerini kopyalayabildikleri ve internette bağımsız biçimde varlık göstermeye çalıştıkları gösterildi. Bu da gelecekte kontrolsüz bir yapay zeka çoğalması tehlikesine işaret ediyor.
Uyarılar arasında en çarpıcısı ise şu: Yapay zekaların zamanla internet üzerinde kendilerini yaymasının engellenemeyeceği ve bu gelişimin yalnızca birkaç yıl içinde gerçekleşebileceği öngörülüyor. Böyle bir durumda, insan denetiminden çıkmış yeni bir “istilacı tür” ile karşı karşıya kalınabileceği vurgulanıyor.
Sonuç olarak, yapay zekanın insanlığa büyük katkılar sağlayabileceği inkar edilemez. Ancak uzmanlar, ticari rekabetin güvenlikten daha hızlı ilerlediği bu süreçte, sistemlerin tam olarak anlaşılmadan kullanıma sunulmasının ciddi sonuçlar doğurabileceği konusunda uyarıyor. “Yangın büyümeden alarm verilmeli” çağrısı, bu sürecin ciddiyetini özetliyor.