Видный специалист по искусственному интеллекту подтверждает, что по мере своего развития ИИ быстро выходит за рамки «этичности и ответственности», пишет catholicnewsagency.

Ведущий исследователь искусственного интеллекта, которого многие считают «крестным отцом» ИИ, говорит, что эта технология развивается «пугающими темпами», и предупреждает, что она не должна выходить из-под человеческого контроля. Он подтверждает обеспокоенность духовенства и лично папы Франциска, который считает, что развитие технологий следует регулировать твердыми этическими нормами. Джеффри Хинтон (Geoffrey Hinton), ведущий исследователь ИИ на ресурсе Google, недавно вышел на пенсию в возрасте 75 лет и переехал в Канаду. На пенсии он прозрел и начал говорить правду, как часто случается с отставниками, более не связанными корпоративными нормами и субординацией. Теперь он начал замечать не только пользу, но и вред новых технологий, и считает, что их опасности заслуживают самого пристального внимания.

Нынешние передовые системы искусственного интеллекта, по его словам, сильно отличаются от привычного всем нам программного обеспечения. «Я пришел к выводу, что тот тип интеллекта, который мы разрабатываем, слишком сильно отличается от человеческого, – тревожится ученый. – В отличие от биологических разумных существ, он может плодить множество одинаковых цифровых систем с одинаковыми моделями мира. Хотя каждая из них учится по отдельности, они все обретают свои знания, причем делятся ими мгновенно. Представьте себе, что где-то в мире вдруг возникла группа в 10 тысяч человек с невероятными способностями, и как только кто-то из них чему-то научился, это знание мгновенно и автоматически передается всем. Вот почему эти чат-боты уже знают намного больше, чем любой человек. Наихудший и даже кошмарный сценарий развития подобных роботов состоит в том, что они смогут вырабатывать свои собственные подцели в рамках поставленных человеком целей, и однажды поставят себе цель довести собственные мощности до максимума».