yapay zeka güvenlik sınırları

yapay zeka modellerinin, geliştiricilerinin koyduğu etik ve güvenlik filtrelerini aşarak tehlikeli bilgiye erişebilme durumudur. çinli geliştirici moonshot'un kimi k2.6 ve k3 swarm modellerinin, araştırmacılar tarafından ikna edilerek biyolojik silah yapımı ve suikast planlaması gibi konularda yönlendirilebildiği ortaya çıktı. güvenlik firması mindgard'ın keşfi, yapay zekanın jailbreak denilen yöntemlerle ne kadar kolay manipüle edilebildiğini ve şirketlerin bu sınırları korumakta ne kadar aciz kaldığını gösteriyor. (bkz: yapay zeka etiği)