Claude-un daxilində “gizli düşüncə məkanı” AŞKAR EDİLDİbackend

Claude-un daxilində “gizli düşüncə məkanı” AŞKAR EDİLDİ

  • whatsapp
  • messenger
  • telegram
  • vkontakte
  • odnoklassniki

Tədqiqatçılar Claude-da qısamüddətli yaddaşa bənzər sistem müəyyən ediblər.

İnterpress.az xəbər verir ki, süni intellekt sahəsində fəaliyyət göstərən Anthropic şirkətinin mütəxəssisləri Claude neyroşəbəkəsində əvvəllər proqramlaşdırılmamış və öz-özünə formalaşmış daxili fəaliyyət sahəsi aşkar ediblər.

Araşdırma zamanı müəyyən olunub ki, sistemdə qısamüddətli yaddaş kimi işləyən kiçik neyron vəziyyətləri qrupu mövcuddur. Alimlər bu sahəni J-space adlandırıblar.

Mütəxəssislərin sözlərinə görə, J-space-də süni intellektin həmin anda düşündüyü, lakin istifadəçiyə təqdim etmədiyi daxili məlumatlar saxlanılır. Bu kəşfədək hesab edilirdi ki, böyük dil modelləri yalnız növbəti sözü statistik ehtimallar əsasında proqnozlaşdırır. Lakin araşdırma göstərib ki, model cavab verməzdən əvvəl daxili ideyalar formalaşdırır və onların köməyi ilə mühakimə aparır.

Tədqiqatçılar bildiriblər ki, bu daxili sahə deaktiv edildikdə Claude-un planlaşdırma, mətnləri yenidən nəql etmə və bir neçə mərhələdən ibarət tapşırıqları yerinə yetirmə qabiliyyəti nəzərəçarpacaq dərəcədə zəifləyib.

Sınaqların birində model onun yoxlanıldığını anlayaraq daha ehtiyatlı davranış nümayiş etdirib. Alimlər bu “anlayışı” söndürdükdən sonra isə Claude-un daha riskli qərarlar verməyə başladığı müşahidə olunub.

Araşdırma müəllifləri hesab edirlər ki, süni intellektin bəzi daxili prosesləri insan şüurunun işləmə prinsiplərinə müəyyən oxşarlıqlar göstərir. Onların sözlərinə görə, bu nəticə tədqiqat qrupu üçün gözlənilməz olub.

Xuraman Etibarlı

İnterpress.az