Изкуственият интелект се развива толкова бързо, че има вероятност да доведе до изчезването на човечеството

Изкуственият интелект се развива толкова бързо, че има над 10% вероятност в рамките на следващото десетилетие да доведе до изчезването на човечеството. Това предупреждение отправя Еван Хюбинджър, водещ изследовател по безопасността на AI в Anthropic, пише The Business Insider.

Според него рискът от моделите, които съществуват днес, все още е „нисък“. Притеснението му обаче е свързано с това докъде може да стигне технологията, ако бъде способна сама да подобрява възможностите си. Хюбинджър заяви в публикация в X, че в Anthropic „искрено вярват“, че изкуственият интелект представлява риск за оцеляването на човешкия вид.

Вярвам, че Anthropic полага максимални усилия, но все още нямаме план за решаване на проблема с подравняването на суперинтелигентността и очевидно не сме на път да го постигнем“, пише той.

Предупрежденията за потенциалните опасности от ИИ не са нови. Още през 2023 г. ръководители на OpenAI, Google DeepMind и Anthropic заявиха, че технологията може да създаде сериозни рискове за човечеството. През последните седмици обаче тонът става все по-тревожен. Причината са редица случаи, които показват колко трудно може да бъде контролиран ИИ, когато му бъде дадена възможност да действа самостоятелно.