Microsoft, Azure OpenAI hizmetlerine yasa dışı erişim sağlayarak içerik oluşturma politikalarını ihlal eden bir grup hakkında yasal işlem başlattı. Şirket, ABD’nin Virginia Doğu Bölgesi Federal Mahkemesi’ne sunduğu dava dosyasında, bu grubun çalınan müşteri kimlik bilgilerini ve özel yazılımları kullanarak sistemlerini hacklediğini ve zararlı içerikler oluşturduğunu belirtti. Ayrıntılar haberimizde…
Microsoft, AI hizmetlerini hackleyen bir gruba dava açtı
İlk olarak Microsoft, yapılan soruşturmada, saldırganların API anahtarlarını çalarak Azure OpenAI hizmetlerine erişim sağladığını tespit etti. Bahsi geçen API anahtarları, Microsoft’un ChatGPT ve diğer yapay zeka modelleri gibi hizmetlerine erişim için kullanılıyor. Çalınan anahtarlar sayesinde grup, içerik filtreleme mekanizmalarını aşarak yasa dışı ve zararlı içerikler üretmek için sistemi kötüye kullandı.
Grup ayrıca, de3u adını verdikleri bir yazılım aracı geliştirmiş. Bu araç, çalınan API anahtarlarını kullanarak herhangi bir programlama bilgisi olmadan DALL-E modelinden görüntü oluşturmayı sağlamış. Ayrıca, içerik filtrelerini baypas ederek zararlı görsellerin oluşturulmasını kolaylaştırmış.
Microsoft, saldırganların oluşturduğu yazılımın GitHub’daki kod deposunu kapattı ve saldırılara karşı “karşı önlemler” aldığını duyurdu. Şirket ayrıca, mahkeme onayıyla suçluların operasyonlarını kolaylaştıran bir web sitesine de el koydu. Şu anda bu web sitesi üzerinden delil toplama ve suçluların gelir modellerini analiz etme çalışmaları yürütülüyor.
Ayrıca, Microsoft, Azure OpenAI hizmetine yönelik yeni güvenlik önlemleri uygulamaya başladığını belirtti, ancak bu yeni tedbirlerin detaylarına dair bilgi vermedi. Microsoft’un yaptığı açıklamalara göre, grup çalınan API anahtarlarını kullanarak “hizmet olarak hackleme” modeli geliştirmiş. Bu sistemle kullanıcılar, kod yazmaya gerek kalmadan yasa dışı içerik üretim süreçlerine dahil olabiliyor.
Sizce Microsoft’un aldığı bu önlemler, AI güvenliği için yeterli mi? Yorumlarınızı aşağıdaki kısımda paylaşabilirsiniz…
