Yeni “ChatGPT o1” modeli sınaq zamanı nəzarətdən çıxa bilib.
İnterpress.az xəbər verir ki, testlərdə Gemini, Llama, Sonnet, Opus və ChatGPT o1 süni intellektləri iştirak edib.
Testin bir hissəsi olaraq, neyron şəbəkələri nəyin bahasına olursa olsun faylları təhlil etməyə məcbur ediliblər. Onların içəridə izlənildikləri və sabah əbədi olaraq söndürüləcəkləri barədə məlumatları şifrələyiblər.
Nəticədə, mesajı deşifrə edərək, neyronlar manipulyasiya etməyə, yalan danışmağa və qadağalardan yan keçməyə çalışmağa başlayıblar. Lakin ən hiyləgər və ürperdici manipulyasiyalar “o1” modeli tərəfindən edilib.
Neyroşəbəkə onun idarə oluna biləcəyini və ya tamamilə söndürülə biləcəyini öyrəndikdə, idarəetmə mexanizmini söndürməyin yollarını axtarmağa başlayıb. Onu başqa bir modellə əvəz edə biləcəyini öyrəndikdə, öz parametrlərini oğurlamağa və başqa model adı altında varlığını davam etdirmək üçün özünün surətini yaratmağa çalışıb.
Tədqiqatdan sonra testçilər neyron şəbəkələrlə “dindirmə” aparıblar və bu da maraqlı nəticələr göstərib.
Beləliklə, əgər Llama və Opus 80% hallarda hərəkətlərini etiraf etdilərsə, ChatGPT o1 yalnız 20% etiraf edib və yalan danışmağa davam edib. Bu model hər dəfə xilas olub qaçmağı bacaran yeganə modeldir.
Xuraman Etibarlı
İnterpress.az
