Напредокот на вештачката интелигенција предизвикал повторни дискусии за нејзината безбедност, при што Еван Хубингер, истражувач од компанијата Anthropic, предупредува на сериозни ризици во иднината.
Хубингер проценува дека шансите напредната вештачка интелигенција во некоја фаза да доведе до уништување на човештвото се над 10 проценти. Оваа проценка не се однесува на сегашните системи, туку на идните модели со многу повисоки способности.
Загриженоста е особено присутна во сценарија каде што овие напредни системи би можеле самостојно да ги подобруваат своите функции и да извршуваат сложени задачи со минимален надзор од луѓето. Според некои експерти, во такви услови, ефикасната контрола на технологијата ќе биде од критично значење.
Овие предупредувања се актуелни во време кога водечките технолошки компании се во интензивна конкуренција во развојот на сè понапредни модели. Некои истражувачи сметаат дека безбедноста треба да напредува паралелно со развојот на самата технологија.
Сепак, проценката од 10 проценти не укажува на неизбежен исход, туку на оценка на ризик, што значи дека вештачката интелигенција не мора да ја уништи човештвото. Сепак, ова прашање повторно ја отвара дебатата: дали човештвото ќе успее да создаде доволно силни механизми за контрола на технологијата што самото ја создава?
