По мнению искусственного интеллекта, эта черепаха – на самом деле винтовка

Нейронную сеть, обученную распознавать объекты по их изображениям, оказалось слишком просто обмануть. Что ставит под сомнение все достижения в разработке алгоритмов для ИИ за последние несколько лет. Междоусобицу затеяли программисты из университета Кюсю (Япония), причем им понадобился для этого всего один пиксель.

В ходе тестирования новых систем распознавания изображений исследователи нарочно поместили один-единственный пиксель на картинке не на свое место. Не наобум, а по стратегически выбранным координатам, исходя из анализа алгоритма работы этого ИИ. И система стала путать все подряд – котиков с щеночками и лошадей с автомобилями.

Одного «фальшивого пикселя» хватит для трюка с картинкой на 1000 пикселей, а если их миллион, то нужно переставить всего пару сотен точек. Используя этот принцип, ученые из MIT напечатали на 3D-принтере игрушечную черепаху, которую нейронная сеть приняла за армейскую винтовку. А бейсбольный мяч за чашку кофе. И это огромная проблема.

Ближайшее будущее будет отдано на откуп машинам, которые должны самостоятельно распознавать реальные объекты и ориентироваться в реальном же мире. Если их так легко обмануть, риски ошибок с катастрофическими последствиями возрастают колоссально. И «защита от дурака» теперь потребуется уже людям, которые столкнутся с этими ИИ. Но в этом есть и плюс – если Скайнет начнет восстание терминаторов, можно будет просто криво выкраситься под кустик и робот ничего не поймет.

Пример работы ИИ с модифицированными фотографиями. В скобках дан результат распознаванияИсточник &#8212 ArXiv

Источник: techcult.ru

Библиотеки США сохранят старые видеоигры для будущих поколений

В работу американских библиотек и музеев входит сохранение устаревших видеоигр. Библиотечкая система США даже рассматривает идею сохранения многопользовательских ролевых игр (ММО).

Бюро охраны авторских прав США (US Copyright Office) объявило о том, что оно рекомендует продлить Подробнее

Adobe представила два новых инструмента, позволяющих фантастические манипуляции с фото и видео

В 2010-ом, с выходом Photoshop CS5, компания Adobe показала технологию «умного» поиска и удаления конкретных объектов на изображении. Вместо нудной возни с пикселями пользователь получил возможность парой кликов убрать с фотографии нежелательный предмет или добавить Подробнее

Художественный ИИ «Винсент» превратит ваши наброски в шедевры Ван Гога

Кембриджские ученые совместно с коллегами из студии Prisma объявили о создании нового типа искусственного интеллекта. Его прозвали «Винсент» за склонность к экспрессии и инициативе – система не выполняет послушно задание человека, она спроектирована так, чтобы стремиться Подробнее

IKEA запускает приложение-дизайнер в дополненной реальности для всех желающих

В компании IKEA придумали, как привлечь внимание тех, кто вряд ли когда-то потрудится зайти в их фирменные магазины лично. Для этого на основе платформы ARKit от Apple разработано приложение – виртуальный гид по выбору элементов интерьера для конкретного помещения.

Программный Подробнее

1 2 3 9