Yapay zekâ güvenlikte fırsat sunarken riskleri artırıyor

Yapay Zekayı Benimseyen Şirketler Diğer Taraftan Yeni Tehditlere Hazırlanıyor

Trend Micro’nun yeni araştırması, yapay zekânın siber güvenlik stratejilerinde yaygın şekilde benimsendiğini, ancak risk endişelerinin de hızla arttığını ortaya koyuyor.

Dünyanın önde gelen siber güvenlik şirketlerinden Trend Micro’nun yeni araştırması kurumların yapay zekâyı siber savunmalarını güçlendirmek amacıyla hızla benimsediğini, ancak aynı zamanda bu teknolojinin saldırı yüzeyini genişletme ve yeni riskler yaratma potansiyelinden ciddi şekilde endişe duyduklarını ortaya koyuyor.

Trend Micro Kurumsal Platformlar Direktörü Rachel Jin, “Yapay zekâ, anomalileri daha hızlı tespit etmekten zaman alan görevleri otomatikleştirmeye kadar siber savunmayı güçlendirme konusunda büyük bir potansiyele sahip. Ancak siber saldırganlar da aynı teknolojiyi kendi amaçları için kullanmakta oldukça istekli ve bu da tehdit ortamını sürekli değişen, hareketli bir yapıya dönüştürüyor. Yaptığımız araştırmalar ve saha testleri, güvenliğin yapay zekâ sistemlerine en başından entegre edilmesi gerektiğini açıkça gösteriyor. Bu, göz ardı edilmemesi gereken bir konu” dedi.

Trend Micro Avrasya Bölgesi Stratejik Ürünler İş Geliştirme Müdürü Burak İnce, “Yapay zekâ, siber güvenlik dünyas? ?nda ezberleri bozarken beraberinde yepyeni tehdit alanları da getiriyor. Kurumlar, bu dönüşüm sürecinde yalnızca yapay zekânın sağladığı fırsatlara odaklanmamalı, aynı zamanda bu teknolojinin doğasında barındırdığı riskleri de önceden görüp hazırlıklı olmalı. Trend Micro olarak biz, kurumların yapay zekâyı güvenli bir şekilde benimseyebilmeleri için bütüncül bir güvenlik yaklaşımı sunuyor; tehdit istihbaratımızı ve teknolojimizi bu yeni dönemin ihtiyaçlarına göre sürekli olarak geliştiriyoruz” dedi.

Araştırmaya göre, dünya genelindeki işletmelerin yüzde 81’i halihazırda yapay zekâ tabanlı araçları siber güvenlik stratejilerinin bir parçası olarak kullanıyor; yüzde 16’sı ise bu teknolojiyi aktif olarak değerlendirme aşamasında. Katılımcıların yüzde 97’si, yapay zekânın bir şekilde güvenlik süreçlerine entegre edilmesine sıcak bakıyor. İşletmelerin yarısından fazlası, varlık keşf i, risk önceliklendirmesi ve anomali tespiti gibi kritik süreçlerde yapay zekâdan faydalanıyor. Katılımcı şirketlerin yüzde 42’si, önümüzdeki 12 ay içinde siber güvenliği iyileştirmek adına en öncelikli yatırım alanlarının yapay zekâ ve otomasyon olacağını belirtiyor.

Ancak bu iyimserliğe ciddi riskler de eşlik ediyor. Kurumların yüzde 94’ü, önümüzdeki üç ila beş yıl içinde yapay zekânın siber risk maruziyetini olumsuz yönde etkileyeceğine inanıyor. Katılımcıların yarısından fazlası, yapay zekâ destekli saldırıların ölçeği ve karmaşıklığında ciddi bir artış beklediklerini ve bunun mevcut siber güvenlik stratejilerini yeniden gözden geçirmeyi ve şekillendirmeyi zorunlu kılacağını belirtiyor. Şirketlerin büyük çoğunluğu; hassas verilerin açığa çıkması riski, yapay zekâ sistemlerinin verileri nasıl işlediğine ve depoladığına dair belirsizlikler, gizli ve mülkiyet hakkına sahip veril erin güvenilir olmayan modeller tarafından istismar edilme olasılığı, ayrıca yeni uç noktalar, API’ler ve kontrol dışı BT çözümlerinin (shadow IT) artmasıyla birlikte uyumluluk baskıları ve izleme zorluklarının çoğalması gibi endişeleri ön plana çıkarıyor.

Fırsat ve risk arasındaki ilişki, Trend Micro’nun Berlin’de düzenlediği Pwn2Own etkinliğinde net biçimde ortaya çıktı. Bu yıl ilk kez yapay zekâ kategorisinin eklendiği etkinlik, yapay zekâ güvenliğinin mevcut durumuna dair çarpıcı bir tablo sundu.

Dört büyük yapay zekâ altyapısına yönelik 12 farklı saldırı denemesi gerçekleşti. En çok hedef alınan platform ise NVIDIA Triton Inference Server oldu. Bunun yanı sıra Chroma, Redis ve NVIDIA Container Toolki t gibi sistemlerde de başarıyla kötüye kullanılabilen açıklar tespit edildi. Bazı durumlarda yalnızca tek bir güvenlik açığı ile sistemin tamamı ele geçirilebildi. Yapay zekâ altyapılarında toplamda yedi benzersiz sıfırıncı gün (zero-day) açığı keşfedildi. Bu açıklara yönelik teknik detaylar paylaşılmadan önce ilgili üreticilere 90 günlük bir düzeltme süresi tanındı.

Yapay zekânın kurumsal BT altyapılarına kapsamlı bir şekilde entegre olmaya başlamasıyla birlikte, Trend Micro güvenlik liderlerine şu çağrıyı yapıyor: Gelişen risk ortamını proaktif olarak değerlendirin ve yapay zekâya geçişin her aşamasına güçlü güvenlik uygulamaları entegre edin.

*Trend Micro, Avrupa, Kuzey Amerika ve APAC bölgelerindeki 21 ülkede, farklı sektör ve ölçeklerden gelen BT ve/veya siber güvenlikten sorumlu 2250 kişiyle görüşülmesi için Sapio Research’e araştırma yaptırdı.