Yapay zeka sistemleri, platformlarını suç amacıyla kullanmaya çalışan kullanıcıları belirleyerek hesaplarını askıya alabiliyor ya da kapatabiliyor. Gerekli görülmesi halinde ise güvenlik birimlerine bilgi paylaşımı yapılabiliyor.

Hayatın pek çok alanında etkisini artıran yapay zeka teknolojisi, özellikle büyük dil modelleri aracılığıyla son kullanıcılar tarafından yoğun şekilde tercih ediliyor. Günümüzde en yaygın kullanılan platformlar arasında ChatGPT, Gemini, DeepSeek, Perplexity, Grok, Microsoft Copilot ve Claude yer alıyor. Bu modeller; araştırma yapmaktan sağlık konularında bilgi edinmeye kadar geniş bir kullanım alanı sunarken, bazı durumlarda kötüye kullanım riski de barındırıyor.

Fiziksel saldırı planlaması ya da silah ve mühimmat üretimine yönelik talepler, yapay zekanın suç amaçlı kullanım örnekleri arasında gösteriliyor. Platformlar ise bu tür içerikleri engellemek amacıyla modellerini özel güvenlik protokolleriyle eğitiyor ve riskli talepleri otomatik olarak reddediyor.

Bildirim Yetkisi Şirketlerin İnsi̇yati̇fi̇nde

Yapay zeka şirketleri, suç amaçlı kullanımları önlemek için çok katmanlı güvenlik sistemleri uyguluyor. ChatGPT’nin yanı sıra Gemini de gelen sorguları gerçek zamanlı olarak analiz eden filtrelere sahip. Silah yapımı, yasa dışı madde üretimi veya fiziksel şiddet planlaması gibi içerikler otomatik olarak reddediliyor. Ayrıca uzman ekipler ve bağımsız denetçiler, sistem tarafından riskli olarak işaretlenen konuşmaları düzenli şekilde inceliyor.

Google ise politikaları doğrultusunda, yakın ve ciddi fiziksel zarar riski bulunduğuna makul ölçüde kanaat getirilmesi halinde yetkililerle veri paylaşımı yapılabileceğini belirtiyor. Şirketin açıklamalarında; bomba tehdidi, okul saldırısı, kaçırma, intihar riski ve kayıp kişi vakaları gibi durumlarda bilgi sağlanabileceği ifade ediliyor. Ancak bu tür taleplerin yine geçerli yasalar ve şirket politikaları çerçevesinde değerlendirildiği vurgulanıyor.

Mevcut yasal düzenlemeler çoğunlukla suç gerçekleştikten sonra veri paylaşımını kapsarken, suç oluşmadan önce yapılabilecek bildirimler büyük ölçüde şirketlerin inisiyatifine bırakılıyor. Bu durum, güvenlik ile veri mahremiyeti arasındaki dengenin nasıl kurulacağı sorusunu gündemde tutmaya devam ediyor.

Kaynakça/Görsel: https://www.haberturk.com/yapay-zeka-platformlari-suc-amacli-kullanimlari-tespit-edebiliyor-3865086-teknoloji?page=3

Düzenlenme Tarihi: 26/02/2026 23:16