Yapay zeka teknolojileri alanında faaliyet gösteren OpenAI, çocuk istismarı içeren çevrimiçi içeriklerle mücadele etmek amacıyla yeni bir görüntü sınıflandırma aracı geliştirdiğini duyurdu. Şirketin internet sitesinde yer alan açıklamaya göre, bu yeni araç, daha önce tespit edilememiş çocuk istismarı görsellerini belirlemek için görsel işaretleri analiz etme yeteneğine sahip.
Geliştirilen sistem, incelenecek görüntülerin öncelik sırasını belirlemek üzere ilgili ekiplere puanlar sunuyor. OpenAI, bu sınıflandırma aracının, yapay zeka tarafından üretilmiş çevrimiçi çocuk istismarı içeriklerini tespit etmek için özel bir sinyal sunan ve geniş erişime açılan ilk sistem olduğunu belirtti. Araç, onaylanmış kuruluşların kullanımına ücretsiz olarak sunulacak.
Şirket, mevcut güvenlik önlemlerine ek olarak ChatGPT platformunda da önemli güncellemeler yapacağını bildirdi. Buna göre, ChatGPT'de çocuk istismarı içeriği arama girişimlerini engellemek için yeni uyarı mekanizmaları devreye alınacak. Bu mekanizmalar kapsamında, kullanıcıya, çocuklara yönelik istismar sayılabilecek içeriklerin yapay zeka tarafından üretilmiş olsa bile zararlı olduğu açıklanacak. İşaretlenen sohbet içeriği derhal kaldırılacak ve ilgili kullanıcının ChatGPT'ye erişimi 24 saat süreyle durdurulacak. Bu süreçte, zararlı davranışları sonlandırmaya yönelik uzman desteği de kullanıcılara sunulacak.
İhlallerin tekrar etmesi durumunda ise daha uzun süreli kısıtlamaların uygulanabileceği, hesabın tamamen kapatılabileceği veya durumun yetkili makamlara bildirilmesi gibi daha ciddi adımların atılabileceği belirtildi. OpenAI, bu yaklaşımın, çocuk istismarını önleme konusunda çalışmalar yürüten kuruluşlar ve akademik danışmanların katkılarıyla geliştirildiğini ifade etti.