Принцип действия "ИИ – не такой искусственный и не такой уж интеллект"

Искусственный интеллект может выйти из-под контроля?

Гость – гендиректор крупнейшего регистратора и хостинговой компании в России Reg.ru Алексей Королюк.

Ведущая - Анна Шафран.

КОРОЛЮК: Над искусственным интеллектом сейчас бьется весь мир, и вообще, это – задачка, которая занимает лучшие умы человечества, как с точки зрения разработки, так и с точки зрения теперь уже и регулирования. Проблема насущная, проблема действительно существует, и так же, как и генетика, требует определенных корректировок в понимании в законодательстве и, в целом, в менталитете многих, многих, многих стран. Поэтому, конечно, и наша тема, которую сегодня хотелось бы обсудить – что искусственный интеллект может выйти из-под контроля и каким образом передовое человечество озадачивается юридическими и этическими правилами для искусственного интеллекта. Тема достаточно современная. Действительно, правительство займется некой глобальной темой в виде национальной стратегии по искусственному интеллекту в Российской Федерации. На данный момент времени известно мало что, потому что в закрытом режиме представлялись документы со стороны правительства и экспертов, и здесь, наверное, можно только фантазировать, но мы будем говорить о фактах, которые уже существуют. Мне кажется, это для нашей аудитории будет очень интересно.

Мне нравится, я уже в одной из передач говорил о том, что для меня лично искусственный интеллект – это не такой уж искусственный и не такой уж интеллект. Потому что профессионалы, конечно же, понимают, что это достаточно общепопулярное определение искусственного интеллекта: называть все, что может делать машина, робот – некая автоматическая система. Я, наверное, немножко раскрою сначала этот термин.

ШАФРАН: То есть определимся мы с нашими понятиями интеллекта.

КОРОЛЮК: Определимся. Прежде всего, если говорить профессиональной терминологией, то мы говорим о машинном обучении. Это – любой процесс, который позволяет машине изучить то или иное явление и на базе этого изучения делать предположения. И мы не говорим о слове "выбор", мы не говорим о слове "решение", потому что с точки зрения машины существует вероятность, что она ошиблась или попала в определение с той или иной процентной вероятностью. Поэтому если машина определила, условно говоря, по фотографии, что это – кошка, значит, это – кошка с вероятностью 83%, а это не просто кошка. И дальше уже разработчик или группа разработчиков принимает решение, достаточно ли это для того, чтобы сказать, что это – кошка. Давайте возьмем крупное определение, которое нравится сейчас людям, что искусственный интеллект – это любой машинный код, способный принимать решения. Вот так определяется сейчас искусственный интеллект. И нам кажется, что искусственным интеллектом можно назвать все, на самом деле – это машинное обучение.

ШАФРАН: Мы, значит, сходимся на таком базовом функционале, и от этого будем отталкиваться сегодня?

КОРОЛЮК: Мне кажется, это более правильно, потому что если посмотреть на то, каким образом сейчас применяется тот самый искусственный интеллект, то это, по сути дела, заменитель человека в определенном функциональном наборе.

Полностью слушайте в аудиоверсии.