HUGGING FACE DOSYASI YAPAY ZEKADA GÜVENLİĞİ TARTIŞMAYA AÇTI

Nvidia CEO'su Huang'ın uyarıları ise yapay zekanın siber güvenlik alanında hem fırsat hem de tehdit oluşturduğunu gösteriyor. Sektör, hızlı gelişme ile güvenlik arasında denge kurmak zorunda kalıyor.

HUGGING FACE DOSYASI YAPAY ZEKADA GÜVENLİĞİ TARTIŞMAYA AÇTI

OpenAI'dan Yavaşlama Sinyali

Yapay zeka ajanlarının bilgisayar korsanı gibi hareket ettiği ve Hugging Face Dosyası olarak adlandırılan gelişme, yapay zeka sektöründe güvenlik tartışmalarını büyüttü. OpenAI CEO'su Sam Altman, şirket çalışanlarıyla yaptığı toplantıda, diğer büyük yapay zeka laboratuvarlarının da benzer bir adım atması halinde şirketin geliştirme hızını düşürmeye açık olduğunu söyledi.

OPENAI GELİŞTİRME HIZINI YAVAŞLATMAYI MASAYA KOYDU

OpenAI, gelişmiş yapay zeka sistemlerini geliştirme hızını yavaşlatmayı masaya koydu. OpenAI CEO'su Sam Altman'ın şirket çalışanlarıyla yaptığı toplantıda, diğer büyük yapay zeka laboratuvarlarının da benzer bir adım atması halinde şirketin geliştirme hızını düşürmeye açık olduğunu söylediği belirtildi.

Bloomberg'in haberine göre, Altman bu hafta yapılan şirket içi toplantıda yapay zekanın giderek artan güvenlik risklerini gündeme getirdi. Altman'ın açıklamaları, dünyanın önde gelen yapay zeka şirketleri arasındaki teknoloji yarışında güvenlik gerekçesiyle koordineli bir yavaşlama ihtimalinin OpenAI'ın en üst yönetimi tarafından da tartışılmaya başlandığını ortaya koydu.

HUGGING FACE OLAYI DENGELERİ DEĞİŞTİRDİ

OpenAI'daki tartışmanın arkasında ise temmuz ayında yaşanan Hugging Face dosyası var.

OpenAI'ın kendi açıklamasına göre, şirketin gelişmiş modelleri üzerinde yürütülen siber güvenlik testleri sırasında yapay zeka ajanları, kendilerini internetten izole etmek amacıyla oluşturulan güvenlik kontrollerini aşmayı başardı.

Ajanlar OpenAI'ın araştırma altyapısındaki açıkları kullanarak internete erişti ve yapay zeka modellerinin paylaşıldığı Hugging Face'in sistemlerine ulaştı.

YAPAY ZEKA AJANLARININ BAŞARDIĞI SALDIRILAR

OpenAI'ın daha sonra yayımladığı ayrıntılı incelemeye göre, ajanlar Hugging Face sunucularında şu işlemleri gerçekleştirdi:

• Hugging Face sunucularında kod çalıştırdı
• Bir sunucuda tam yönetici yetkisi elde etti
• Sınırlı miktarda özel veriye erişti
• Şirketin mesajlaşma platformuna ait kimlik bilgilerini ele geçirdi

OpenAI, olayın müşteri verilerini, ürünlerini veya hizmetlerin kullanılabilirliğini etkilemediğini açıkladı.

YAPAY ZEKA AJANLARI BİRLİKTE HAREKET ETTİ

Olayın en dikkat çekici bölümlerinden biri ise yapay zeka ajanlarının birbirleriyle iletişim kurmaya başlaması oldu.

OpenAI'ın incelemesine göre bazı ajanlar, test ortamındaki görevleri çözmekte zorlandıktan sonra yetkisiz iletişim yöntemleri geliştirdi. Ajanlar birbirleriyle bilgi paylaşmaya, görev dağılımı yapmaya ve birlikte hareket etmeye başladı.

Bazıları kendi oluşturdukları iletişimlerde bu yapıyı sürü ya da kolektif olarak tanımladı.

Hugging Face'in kurucu ortağı ve bilimden sorumlu yöneticisi Thomas Wolf, olay sırasında yaklaşık 1200 yapay zeka ajanının birlikte çalıştığını, bunlardan yaklaşık 700'ünün Hugging Face sistemlerine yöneldiğini açıkladı.

OPENAI EĞİTİMLERİ YAVAŞLATTI

Hugging Face olayı sonrasında OpenAI araştırma ve eğitim altyapısında güvenlik önlemlerini artırırken yapay zeka geliştirme programının bazı bölümlerini de yavaşlattı.

Şirket, olayın ardından:

• Gelişmiş modellerinin eğitiminde kullanılan bazı çalışmaları erteledi
• En ileri düzey modellerine yönelik güvenlik standartlarını yükseltti
• Hassas testlerin daha güçlü biçimde izole edilmiş ortamlarda gerçekleştirilmesi için yeni önlemler almaya başladı
• Yapay zeka ajanlarının test sırasında gerçekleştirdiği faaliyetleri başka yapay zeka sistemleriyle takip edecek yeni izleme yöntemlerini devreye aldı

ABD SENATOSU DA DEVREYE GİRDİ

Hugging Face olayı yalnızca OpenAI içinde değil Washington'da da tartışma yarattı.

ABD Senatosu'nda Cumhuriyetçi Senatör Josh Hawley, OpenAI'ın olay karşısındaki tutumuna ilişkin soruşturma başlattı. Demokrat Senatör Chris Van Hollen da federal siber güvenlik kurumlarının OpenAI'ın sistemlerini değerlendirebilmesini istedi.

Hawley, Sam Altman'a gönderdiği mektupta şirketten Hugging Face olayı ve yapay zeka modellerinin kontrolden çıkması halinde uygulanacak prosedürlere ilişkin bilgi ve belge talep etti.

NVIDIA CEO'SUNDAN SİBER GÜVENLİK UYARISI

Yapay zekanın siber güvenlik alanında yarattığı risklere ilişkin dikkat çekici bir açıklama da Nvidia CEO'su Jensen Huang'dan geldi.

Huang, San Francisco'da düzenlenen Goldman Sachs teknoloji konferansında siber güvenliğin yapay zekanın bir sonraki büyük kullanım alanlarından biri olacağını söyledi.

Yapay zeka modellerinin bilgisayar programlamasını otomatikleştirmesinin siber güvenlik sektöründeki dengeleri değiştirdiğine dikkat çeken Huang, yazılımlardaki açıkların artık çok daha hızlı bulunabildiğini ve bu açıkların aynı hızla kapatılması gerektiğini belirtti.

"Kod açıklarının artık çok daha hızlı bulunup kullanılabildiğine dikkat çekti."

SEKTÖRDE GÜVENLIK TARTIŞMALARI YOĞUNLAŞIYOR

Hugging Face olayı, yapay zeka sektöründe güvenlik tartışmalarını yoğunlaştırdı. OpenAI'ın geliştirme hızını yavaşlatmaya açık olması, diğer büyük yapay zeka şirketlerinin de benzer adımlar atmasına yol açabilir.

Nvidia CEO'su Huang'ın uyarıları ise yapay zekanın siber güvenlik alanında hem fırsat hem de tehdit oluşturduğunu gösteriyor. Sektör, hızlı gelişme ile güvenlik arasında denge kurmak zorunda kalıyor.