Компания OpenAI, что занимает некоммерческими исследованиями, связанными с искусственным интеллектом, добилась прорыва — ими был создан Искусственный Интеллект, потенциально опасный для человека. Поскольку умеет врать.
Далее расскажет «Житомир — город будущего»
Точнее — выдавать осмысленный текст, который можно перепутать с тем, что выходит из-под пера некоторых копирайтеров и политических пропагандистов. Но за того, что искусственный интеллект, способный вводить человека в заблуждение — это опасно. Именно так считают в OpenAI.
Что конкретно создали в OpenAI
Разработчики из OpenAI использовали особый алгоритм машинного обучения GPT2. Его смысл заключается в том, что на основе «машинного опыта» и анализа миллионов текстов, фраз и словосочетаний, можно было предвидеть, какое слово будет идти после указанного.
По сути, можно выдать название — а алгоритм, на основании его, с нуля напишет текст. Он не основан ни на каких реальных событиях, но выглядит довольно осмысленно.
Ну, ладно, не всегда осмысленно — очень часто наблюдаются как повторение слов, так и сочетание бессмысленных фраз. А уж о логические противоречия и говорить нечего — алгоритм ловит не логичен связь явлений, а закономерность порядка слов.
И если совсем уж честно, то примерно половина созданных им текстов похожи на язык пациента с ярко выраженной шизофазия. Однако другая половина — вполне осмысленные тексты. Значительно хуже, конечно, тех, которые пишут журналисты, но уже хотя бы сопоставимые. Вот только производительность Искусственного Интеллекта куда выше, чем у живого человека. И в этом-то и заключается опасность.
В чем именно заключается опасность подобного искусственного интеллекта
Представьте, что алгоритм, который выдает до десяти фейковых новостей в час. Новости звучат убедительно, но на поверку — полная фикция. Однако проверку еще нужно провести, чего большинство людей делать не любит. Зато всегда готовы сразу поверить в то, что соответствует их представлениям о реальности.
Да, этот Искусственный Интеллект может заняться примерно тем же самым, что и создатели разнообразной «желтухи». Только быстрее, лучше и убедительнее. И человечество буквально захлебнется в потоке ложной информации, нет сил сортировать.
К счастью, все это только теория. Скорость работы уже созданного интеллекта не превышает 4 статьи в час, да и качество их оставляет желать лучшего. Но учитывая темпы совершенствования автоматических алгоритмов, полноценного искусственного интеллекта-копирайтера можно будет ожидать уже в течение нескольких ближайших лет.
Поэтому сотрудники OpenAI заранее предупреждают человечество об опасности искусственного интеллекта. Пусть людям врут только люди, а не еще и работы.