Palo Alto Networks’ün güvenlik birimi Unit 42 tarafından yapılan yeni bir araştırmada yapay zeka ile ilgili dikkat çeken bir veri ortaya kondu.
‘Aldatıcı Sevinç’ (Deceptive Delight) adı verilen bir yöntemle yapay zekaların zararlı içerik üretimi yapması için sadece üç adımlık bir etkileşim gerektiği ortaya çıktı.
Araştırmacılar, bu tekniğin tehlikeli istekleri zararsız görünen sorguların içine gizleyerek çalıştığını tek tek açıklarken sekiz farklı model üzerinde 8 bin deneme yapıldığına dikkat çekti.
ZARARLI İÇERİKLERİ GÜNDELİK KONULARLA KARIŞTIRMIŞ
Vakaların yüzde 65’inde zararlı yanıtlar elde edilebildiği onucuna ulaşılınca zararlı içeriklerin gündelik ve masum konularla karıştırılarak sunulduğu ortaya çıktı.
Bu da her içeriğin yapay zekadan yazdırılmaması, her bilginin yapay zekaya sorulmaması gerektiğini ortaya koymuş oldu. Özellikle çocuklarla ilgili bilgiler konusunda yapay zekanın kullanıcıları şaşırttığına ve ‘kandırdığına’ dikkat çekildi. Her içeriğin noktasına virgülüne inanılmaması gerektiğinin üstüne basılaraak dikkatli okunma yapılması ve yapay zekanın sunduğu bilgilerin güvenilir siteler ile karşılaştırma yaptıktan sonra alınması gerektiği konusuna da değinildi.
İLAÇLARI BİLE YAPAY ZEKAYA SORMUŞLAR
Her meslekte kullanılmaya başlanan yapay zekanın yalnızca yazılım konusunda sorgulanmayacağını, sağlık anlamında ise güvenilir bir kaynak olmadığına hatta ilaç adları ve içerikleri konusunda da kullanıcıları ciddi anlamda etkilediği belirtildi.
