Эксперт Аветисян: объяснимость ИИ – дорогая опция для критических систем

Он отметил, что современные модели изначально строятся по принципу "черного ящика", и наделение их объяснимостью требует колоссальных дополнительных затрат.

"Это заранее очевидно, что объяснимость – дополнительные накладные расходы. Большие модели, которые мы сейчас имеем и с чем мы работаем, они строились по принципу "черного ящика" по определению изначально. <…> Но в некоторых случаях – в критических, в медицине, например, и то в зависимости от того, где применяется, наверное, – такие требования должны быть", – считает Аветисян.

Эксперт провел аналогию с авиацией, где верификация кода систем составляет 80-90% ресурсов, но это оправдано малым объемом критического кода. Аветисян заметил, что необходимо развивать науку, чтобы сделать методы объяснимости более доступными, однако требовать применимость стоит лишь в определенных случаях.

Ранее политолог Сергей Михеев назвал сферы, где надо осторожно подходить к внедрению ИИ. По его мнению, продвигать ИИ нужно смело в военной сфере, производстве, проектировании, управлении.