Чем были заняты нейронные сети последние два года

Наука и технология. Разоблачения шарлатанов и прочие чудеса техники.

Модераторы: Аццкий Инженер, Творец

Аватара пользователя
Leiten
Сообщения: 2519
Зарегистрирован: 30 май 2016, 09:36
Репутация: 7784
Откуда: Мск

Чем были заняты нейронные сети последние два года

Сообщение Leiten » 04 авг 2017, 10:22

Нейронные сети не программируются в привычном смысле этого слова, они обучаются.
Возможность обучения — одно из главных преимуществ нейронных сетей перед традиционными алгоритмами.
Так чему обучают их?

Изображение
Да здравствует всё то,благодаря чему мы,несмотря ни на что!©Зиновий Паперный


Аватара пользователя
Leiten
Сообщения: 2519
Зарегистрирован: 30 май 2016, 09:36
Репутация: 7784
Откуда: Мск

Чем были заняты нейронные сети последние два года

Сообщение Leiten » 04 авг 2017, 10:22

Да здравствует всё то,благодаря чему мы,несмотря ни на что!©Зиновий Паперный


Аватара пользователя
Sirmultik
Site Admin
Сообщения: 8285
Зарегистрирован: 29 май 2016, 10:45
Репутация: 19910

Чем были заняты нейронные сети последние два года

Сообщение Sirmultik » 04 авг 2017, 11:27

Добавим

Меньше чем за сутки бот от фраз, вроде «Привет, мир!» и «Все люди классные» перешел к откровенно нацистским и расистским высказываниям, начал обильно употреблять нецензурную лексику и писать откровенные посты порнографического характера с инцестуальным подтекстом.

Естественно, ситуация оказалась неприятной. «Майкрософт» отключил бота, стер большую часть его высказываний, но остались скриншоты. Конечно, можно винить алгоритмы обучения, несовершенство самой системы и недальновидность компании и программистов, невозможно не увидеть во всей ситуации некоторую анекдотичность, но Тау ярко продемонстрировала одну фундаментальную черту, свойственную всем искусственным интеллектам: они — лишь зеркало. Искусственному интеллекту — особенно нейросетям, которые учатся поведению, перерабатывая огромные массивы информации и повторяя их — нужна отправная точка, откуда он начинает свое развитие. И ее он может получить только от нас. Другого пути нет.

Конечно, в случае с Тау надо помнить, что процесс ее изменения был не пассивным. Она не просто находилась в Твиттере и слушала человеческие разговоры вокруг. О ней было объявлено достаточно широко, было немало статей в прессе, и пранкеры действительно решили посмотреть, смогут ли они научить бота быть расистом, и сколько времени на это понадобится.

Поведение Тау, таким образом, это не отражение реального человеческого поведения, а скорее последствие действий тех людей, которые ради веселья решили проверить систему на прочность в ту же секунду, как у них появился такой шанс. То есть зеркало в этом случае показывало не наше реальное отражение, а те гримасы, которые мы корчили в него ради хохмы. И, возможно, это в каком-то смысле хуже.

Тау не может понять, что конкретно она говорит, понятия расизма, нацизма или инцеста для бота не имеют того значения, что они имеют для людей. И когда искусственный интеллект в твиттере начинает ругаться, называть себя «плохим грязным роботом» или говорить, что «геноцид — это забавно», кому-то это может показаться смешным. Но все меняется, если представить, что подобные фразы будут принадлежать какой-то большой системе искусственного интеллекта. А исследования в области искусственного интеллекта за последнее время невероятно ускорились, приняв во многом лавинообразный характер, который уже явно будет крайне сложно, если вообще возможно, не то что остановить, но даже замедлить.
Если мы уйдем оттуда где мы были, то что там останется?


Аватара пользователя
Аццкий Инженер
Сообщения: 2440
Зарегистрирован: 30 май 2016, 09:17
Репутация: 8118
Откуда: Солнечный Скобаристан
Контакт:

Чем были заняты нейронные сети последние два года

Сообщение Аццкий Инженер » 04 авг 2017, 12:44

то ли ещё будет...
Under Black Flags We March © Arch Enemy



Вернуться в «Хочу всё знать!»

Кто сейчас на конференции

Сейчас этот форум просматривают: нет зарегистрированных пользователей и 0 гостей


Активные темы

[4]  Дети...


Обсуждаемые темы

[5]  Дети...