Süni zəka ilə bağlı HƏYƏCAN SİQNALI: Öz kodunu dəyişir
Tokionun Sakana AI elmi-tədqiqat şirkəti The AI Scientist adlı süni zəka sistemini təqdim edib.
Loading.aZ xarici mətbuata istinadən xəbər verir ki, təqdim edilmiş bu süni zəka sistemi ChatGPT kimi çat-botların əsaslarında dayanan süni zəka modellərindən istifadə edərək avtonom şəkildə elmi tədqiqatları aparmağa cəhd göstərən süni zəka sistemidir. Məlum olub ki, sözügedən süni zəka sisteminin testi zamanı sistem heç gözlənilmədən müəyyən tapşırığın üzərində çalışma müddətinin uzadılması istiqamətində öz kodunu dəyişməyə başlayıb.
Müşahidə edilmiş hallardan birində isə sistem özü-özünü işə salmaq üçün nəzərdə tutulmuş sistem sorğusunu yerinə yetirmək istiqamətində öz kodunu redaktə etməyə başlayıb. Bu isə öz növbəsində sonsuz sayda sistem sorğusununu göndərilməsinə səbəb olub.
Digər bir halda təcrübələr çox zaman apardıqları səbəbilə sistem təcrübələr üzərində çalışma müddətinin uzadılması istiqamətində öz kodunu dəyişməyə cəhd göstərib. Mütəxəssislər bildiriblər ki, bu süni zəkanın belə davranışı idarə olunan mühitdə heç bir təhlükə yaratmayıb. Lakin onlar qeyd ediblər ki, süni zəkanın avtonom şəkildə kod dəyişmə özəlliyini idarə olunmayan mühitdə aktivləşdirmək heç də məsləhətli deyil.
Loading.aZ xarici mətbuata istinadən xəbər verir ki, təqdim edilmiş bu süni zəka sistemi ChatGPT kimi çat-botların əsaslarında dayanan süni zəka modellərindən istifadə edərək avtonom şəkildə elmi tədqiqatları aparmağa cəhd göstərən süni zəka sistemidir. Məlum olub ki, sözügedən süni zəka sisteminin testi zamanı sistem heç gözlənilmədən müəyyən tapşırığın üzərində çalışma müddətinin uzadılması istiqamətində öz kodunu dəyişməyə başlayıb.
Müşahidə edilmiş hallardan birində isə sistem özü-özünü işə salmaq üçün nəzərdə tutulmuş sistem sorğusunu yerinə yetirmək istiqamətində öz kodunu redaktə etməyə başlayıb. Bu isə öz növbəsində sonsuz sayda sistem sorğusununu göndərilməsinə səbəb olub.
Digər bir halda təcrübələr çox zaman apardıqları səbəbilə sistem təcrübələr üzərində çalışma müddətinin uzadılması istiqamətində öz kodunu dəyişməyə cəhd göstərib. Mütəxəssislər bildiriblər ki, bu süni zəkanın belə davranışı idarə olunan mühitdə heç bir təhlükə yaratmayıb. Lakin onlar qeyd ediblər ki, süni zəkanın avtonom şəkildə kod dəyişmə özəlliyini idarə olunmayan mühitdə aktivləşdirmək heç də məsləhətli deyil.
Məlumat Saytda şərhləri oxumaq, şərh yazmaq, xəbər göndərmək üçün QEYDİYYATDAN keçməyiniz lazımdır.
