"Claude" süni intellekti kobud istifadəçilərin suallarına cavab verməyəcək

"Anthropic" şirkəti "Claude Opus 4" və "Claude Opus 4.1" modellərinin çat versiyasında istifadəçinin uzun sürən təhqiredici və ya yanlış davranışı hallarında neyron şəbəkəyə dialoqu dayandırmağa imkan verən yeni funksiyanın işə salındığını elan edib.

Loading.Az xəbər verir ki, bununla bağlı bəyanat tərtibatçıların saytında dərc olunub.

Yenilik süni intellektin "rifahını" təmin etmək məqsədi daşıyan "AI Welfare" proqramının bir hissəsi kimi həyata keçirilib. İlkin sınaqlar göstərib ki, "Claude Opus 4" zərərli sorğulara cavab verməkdə açıq istəksizlik və yanlış ünsiyyətə "stresli" reaksiya nümayiş etdirir. Dialoqbitirmə aləti olan model ondan fəal şəkildə istifadə edib.

İstifadəçinin süni intellekti təhqir etdiyi vəziyyətlərdə sistem istifadəçini söhbətin bitməsi barədə xəbərdar edəcək.