Нам стало известно о том, что специалисты Вайомингского университета смогли ввести в заблуждение компьютерные нейронные сети глубинного обучения.
Так, модулям демонстрировали абстрактные изображения, в которых заведомо не было ничего конкретного, но алгоритмы распознавали чашки кофе, павлинов, львов и иные конкретные объекты, что совершенно не соответствовало действительности. Компьютер же выдал данные о том, что распознавание проведено с точностью в 99 процентов.
Все дело в том, что машина делает вывод об изображении, судя о некоей ее части, а люди выносят заключения исходя из множества факторов.