Новые чат-боты могут изменить мир. Можете ли вы им доверять?

Реклама

Поддерживается

Siri, Google Search, онлайн-маркетинг и домашние задания вашего ребенка никогда не будут прежними. Тогда есть проблема дезинформации.

Отправь историю любому другу

Как подписчик, у вас есть 10 подарочных статей. дарить каждый месяц. Любой может прочитать то, чем вы поделитесь.

Кейд Мец

Кейд Мец написал эту статью на основе многомесячных бесед с учеными, создающими чат-боты, и людьми, которые их используют.

В этом месяце Джереми Ховард, исследователь искусственного интеллекта, представил своей 7-летней дочери онлайн-чат-бот под названием ChatGPT. Он был выпущен несколькими днями ранее OpenAI, одной из самых амбициозных лабораторий искусственного интеллекта в мире.

Он посоветовал ей спрашивать экспериментального чат-бота обо всем, что приходит на ум. Она спросила, для чего нужна тригонометрия, откуда взялись черные дыры и почему куры высиживают яйца. Каждый раз он отвечал ясной, четкой прозой. Когда она попросила компьютерную программу, которая могла бы предсказать траекторию брошенного в воздух мяча, она дала ей и это.

В течение следующих нескольких дней г-н Ховард — специалист по данным и профессор, чья работа вдохновила на создание ChatGPT и подобных технологий — начал рассматривать чат-бота как новый вид личного наставника. Он мог бы научить его дочь математике, естествознанию и английскому языку, не говоря уже о нескольких других важных уроках. Главный из них: Не верьте всему, что вам говорят.

«Очень приятно видеть, как она учится таким образом», - сказал он. «Но я также сказал ей: не доверяй всему, что он тебе дает. Он может совершать ошибки».

OpenAI входит в число многих компаний, академических лабораторий и независимых исследователей, работающих над созданием более совершенных чат-ботов. Эти системы не могут общаться как люди, но часто кажется, что они это делают. Они также могут извлекать и переупаковывать информацию со скоростью, с которой люди никогда не могли бы справиться. Их можно рассматривать как цифровых помощников, таких как Siri или Alexa, которые лучше понимают, что вы ищете, и дают это вам.

После выпуска ChatGPT, которым воспользовались более миллиона человек, многие эксперты полагают, что эти новые чат-боты готовы заново изобрести или даже заменить поисковые интернет-системы, такие как Google и Bing.

Они могут предоставлять информацию в сжатых предложениях, а не в длинных списках синих ссылок. Они объясняют концепции так, чтобы люди могли их понять. И они могут предоставлять факты, а также генерировать бизнес-планы, темы курсовых работ и другие новые идеи с нуля.

«Теперь у вас есть компьютер, который может ответить на любой вопрос понятным для человека способом», — сказал Аарон Леви, исполнительный директор компании Box из Силиконовой долины и один из многих руководителей, изучающих, как эти чат-боты изменят мир. технологический ландшафт. «Он может экстраполировать и брать идеи из разных контекстов и объединять их вместе».

Новые чат-боты делают это с полной уверенностью. Но они не всегда говорят правду. Иногда они даже не справляются с простой арифметикой. Они смешивают факты с вымыслом. И поскольку они продолжают совершенствоваться, люди могут использовать их для создания и распространения лжи.

Google недавно создал систему специально для общения, получившую название LaMDA, или языковую модель для диалоговых приложений. Этой весной инженер Google заявил, что он разумен. Это не так, но это захватило воображение публики.

Аарон Марголис, специалист по данным из Арлингтона, штат Вирджиния, был среди ограниченного числа людей за пределами Google, которым было разрешено использовать LaMDA через экспериментальное приложение Google AI Test Kitchen. Его неизменно поражал ее талант к открытому разговору. Это его развлекало. Но он предупредил, что это может быть что-то вроде баснословия — как и следовало ожидать от системы, обученной на огромных объемах информации, размещенной в Интернете.

«То, что это дает, похоже на фильм Аарона Соркина», — сказал он. Г-н Соркин написал сценарий «Социальной сети», фильма, который часто критикуют за искажение правды о происхождении Facebook. «Часть этого будет правдой, а часть — нет».