Авторские материалы С искусственным интеллектом не поспоришь: студентов вузов будут отчислять по рекомендации машины

Студентов оценят с помощью искусственного интеллекта. В этом году в России начнут тестировать систему, которая будет тщательно следить за каждым учащимся – его оценками, поведением и активностью. Компьютеры будут указывать на тех, кого следует поощрять, а кого, наоборот, наказывать – вплоть до отчисления. Финальное решение будут принимать живые люди – работники деканата, но на основе рекомендаций от «умной» машины. Обозреватель «Вестей ФМ» Валерий Емельянов продолжит тему.

«У вас очень плохие показатели, наша система решила, что вас нужно отчислить» – такую фразу в скором времени могут услышать российские студенты – учащиеся вузов, в которых проходит эксперимент по внедрению искусственного интеллекта. Людей будет оценивать машина, причем по совокупности признаков: как человек проявляет себя на занятиях, как сдает тесты, насколько активен на факультативах и соревнованиях, нет ли проблем с поведением, нарушением правил в общежитии и так далее. На основе этих данных искусственный интеллект будет выносить вердикт – кого из студентов следует особо отметить, кому – назначить дополнительные занятия, с кем – поговорить, а кого, вероятно, вообще отчислить.

Считается, что эта система будет объективнее, чем преподаватели, деканы или начальники курсов просто потому, что ей неведомы эмоции и взяток она не берет. Разработчики искусственного интеллекта говорят, что количество отчисленных сократится в 1,5 – 2 раза, то есть студенты сами заинтересованы в том, чтобы их оценивали машины. Комментирует директор центра EDCrunch University НИТУ МИСИС Нурлан Киясов.

КИЯСОВ: Это – сервис по выявлению студентов, которые находятся в зоне риска, и предупреждению их. Прежде всего это касается самих студентов – чтобы вовремя изменить их поведение. Для того чтобы система стала качественным помощником, мы планируем оцифровать конспекты лекций, презентации, переписку с преподавателями, посчитать число заходов в LMS-систему (она есть в каждом вузе), оценить активность на форуме, проверить опоздания и посещаемость лекций.

Эксперимент по оцениванию студентов стартует уже в этом году, а через пару лет первые несколько вузов будут в пробном режиме принимать и отчислять учащихся по рекомендации машины. Скептики говорят, что работа системы будет сведена к тому, что она будет считать количество пропущенных студентом лекций, что сейчас и так делается, только вручную, и не все преподаватели на это обращают внимание. Проректор Академии труда и социальных отношений Александр Сафонов считает, что судить об уровне знаний студента по таким скудным признакам ни в коем случае нельзя.

САФОНОВ: Есть масса случаев, которые показывают, что студент относится к формальным занятиям не очень хорошо, но в то же время он в максимальной степени одарен. Ему просто не интересно ходить на формальные мероприятия. Есть масса примеров успешных бизнесменов и технологов, которые учились плохо или не оканчивали вуз. Большинство таких талантливых ребят выпадет, и мы их потеряем.

Самый спорный момент – как поменять решение, принятое на основе рекомендации искусственного интеллекта. Когда студента не принимают или отчисляют, но он считает, что он прав, собирается апелляционная комиссия, на которой редко, но все-таки можно опровергнуть доводы проверявшего преподавателя. В случае же с искусственным интеллектом, который вычисляет худших студентов по множеству показателей сразу, повторить или опровергнуть его доводы живому человеку нереально. Там используется большой массив данных о человеке, то есть, условно говоря, машина наказывает по совокупности признаков. И декану или той же комиссии ничего не останется, как только согласиться с компьютерной системой. И оспорить такое решение вряд ли будет возможно, потому что формально решение принял живой человек по принципу веры в безошибочность машины. Комментирует адвокат, профессор Финансового университета при правительстве РФ Максим Березин.

БЕРЕЗИН: Искусственный интеллект – это вспомогательный инструмент; фактически это – машинообрабатываемая информация. В любом случае решение принимает должностное лицо, которое уполномочено делать это в силу закона. Именно его решение и будет оспариваться в суде, если с ним не согласны. Следует рассматривать проникновение таких технологий как помощь в принятии решения, но не как замену должностного лица.

Те же самые две технологии – big data и искусственный интеллект – широко используются во всем мире для найма и увольнения персонала. Например, компания IBM разработала систему, которая с 95% точностью предсказывала, что сотрудник в ближайшее время уволится. По тому, как он работает, как часто выходит за кофе, как общается с коллегами и прочим признакам, машина делала вывод, что человек находится что называется не на своем месте (в плане профессии или должности). Позднее компания переосмыслила эти данные и стала заранее увольнять по указанию машины тех, у кого были плохие показатели. Треть сотрудников корпорации попала под сокращение, потому что искусственный интеллект вычислил, что они работают хуже всех или вообще бесполезны. Функции уволенных возложили на других людей, у которых обнаружился "резерв производительности" (им подняли зарплату), а также – на компьютерные программы.

В России до такого уровня дело пока не дошло, но отбор при найме на работу уже сейчас производится с учётом подсказки от искусственного интеллекта: он по множеству признаков вычисляет, надежен кандидат или нет. Рассказывает руководитель службы исследований hh.ru Мария Игнатова.

ИГНАТОВА: Если говорить про увольнение, расставание с кандидатом, то здесь, конечно, в меньшей степени применяют технологии искусственного интеллекта. Пока что технологии используют больше на первом этапе – этапе отбора, а следующие за ним в меньшей степени подвержены компьютеризации. Но российские компании стараются внедрять новые решения. Это не самая повсеместная практика, здесь мы пока отстаем от западных компаний.

Специалисты по кадрам говорят, что в области образования и трудовых отношений грядет чуть ли ни революция. Управление персоналом с самых первых дней становления карьеры планируют постепенно передавать в руки компьютерных систем. Машины будут следить за тем, чтобы люди на своих местах работали с максимальной отдачей. С одной стороны, это благо: компьютер подскажет, в какой профессии человек раскрывается лучше всего, и направит поиски работы в нужное русло. С другой стороны, это похоже на искусственный отбор, где каждый работник – это просто ресурс без права выбора. Фактически молодым людям будут заранее предсказывать, какие профессии для них закрыты и какие они могут выбрать, чтобы их впоследствии не уволили за неэффективность.