Копылов: для контроля ИИ в медицине потребуются алгоритмы проверки

По словам эксперта, следующим этапом развития ИИ в медицине станет взаимодействие между ИИ-агентами, где один алгоритм будет проверять выводы другого.

"Скорее всего, понадобится алгоритм, который будет проверять работу черного ящика, условно говоря, назовем это так, чтобы подтверждать или не подтверждать то заключение, которое дано. Вот это вот дальнейший путь, по всей видимости, развития, что алгоритмы будут работать с сигналами, которые будут в сыром виде, а ИИ-агент будет, который будет еще дополнительно проверять, насколько первый алгоритм не ошибся", – заявил Копылов.

Профессор подчеркнул, что окончательное решение в медицине должно оставаться за врачом, но оно может быть принято на основе аргументированных данных от ИИ-систем.

"Появляется как бы новая совершенно роль, вот именно как раз взаимодействие между, видимо, ИИ-агентами, чтобы понимать, чтобы принимать потом окончательное решение, что делать. Потому что в медицине она все равно будет развиваться через врачебное решение, так или иначе. Но оно должно быть аргументировано и понятно", – сказал Копылов.

Ранее эксперт отметил необходимость баланса в использовании врачами ИИ и предупредил о рисках депрофессионализации при чрезмерном использовании современных технологий.