ИИ наконец-то хорош, и это проблема

Это, безусловно, ощущается именно так прямо сейчас. За последнюю неделю или около того скриншоты разговоров с ChatGPT, новейшей итерацией модели ИИ, разработанной исследовательской фирмой OpenAI, стали вирусными в социальных сетях. Люди направили инструмент, который находится в свободном доступе в Интернете, чтобы шутить, писать телесериалы, сочинять музыку и даже отлаживать компьютерный код — все то, что я также сделал с помощью ИИ. Уже более миллиона человек поигрались с ИИ, и хотя он не всегда говорит правду или имеет смысл, он по-прежнему довольно хороший писатель и еще более уверенный в себе чушь. Наряду с недавними обновлениями DALL-E, программного обеспечения OpenAI для создания произведений искусства, и Lensa AI, спорной платформы, которая может создавать цифровые портреты с помощью машинного обучения, GPT является тревожным сигналом о том, что искусственный интеллект начинает соперничать с человеческими способностями. , по крайней мере, для некоторых вещей.

«Я думаю, что все очень сильно изменилось», — сказал Моллик Recode. «И я думаю, что это всего лишь вопрос времени, когда люди это заметят».

Если вы не уверены, вы можете попробовать сами здесь. Система работает как любой онлайн-чат-бот, и вы можете просто ввести и отправить любой вопрос или запрос, который вы хотите, чтобы ИИ ответил.

Как вообще работает GPT? По своей сути технология основана на типе искусственного интеллекта, называемом языковой моделью, системе прогнозирования, которая, по сути, угадывает, что следует написать, на основе предыдущих обработанных текстов. GPT был создан путем обучения своего ИИ чрезвычайно большому объему данных, большая часть которых поступает из огромного количества данных в Интернете, наряду с миллиардами долларов, включая первоначальное финансирование от нескольких известных технологических миллиардеров, включая Рейда Хоффмана и Питера Тиля. . ChatGPT также был обучен на примерах человеческого разговора, что помогает сделать его диалог более человечным, как объясняется в сообщении в блоге, опубликованном OpenAI.

OpenAI пытается коммерциализировать свою технологию, но предполагается, что текущий выпуск позволит публике протестировать ее. Компания попала в заголовки газет два года назад, когда выпустила GPT-3, итерацию технологии, которая могла создавать стихи, ролевые игры и отвечать на некоторые вопросы. Это новейшая версия технологии — GPT-3.5, и ChatGPT, соответствующий ей чат-бот, еще лучше генерирует текст, чем его предшественник. Он также довольно хорошо выполняет инструкции, например: «Напишите рассказ о лягушке и жабе, в котором лягушка инвестирует в ценные бумаги, обеспеченные ипотекой». (История заканчивается тем, что Жаба последовал совету Лягушки и инвестировал в ценные бумаги, обеспеченные ипотекой, и пришел к выводу, что «иногда небольшой риск может в конце концов окупиться»).

Конечно, у технологии есть свои недостатки. Хотя система теоретически предназначена для того, чтобы не пересекать некоторые моральные границы — она непреклонна в том, что Гитлер был плохим — несложно обмануть ИИ, чтобы он поделился советом о том, как участвовать во всевозможных злых и гнусных действиях, особенно если вы сообщите об этом чат-боту. что он пишет фантастику. Система, как и другие модели ИИ, тоже может говорить предвзятые и оскорбительные вещи. Как объяснил мой коллега Сигал Самуэль, более ранняя версия GPT создавала крайне исламофобский контент, а также приводила к довольно неприятным темам для обсуждения обращения с уйгурскими мусульманами в Китае.

Как впечатляющие возможности GPT, так и его ограничения отражают тот факт, что эта технология работает как версия интеллектуальных предложений Google по составлению текстов, генерируя идеи на основе того, что было прочитано и обработано ранее. По этой причине ИИ может звучать очень уверенно, не демонстрируя особенно глубокого понимания предмета, о котором он пишет. Именно поэтому GPT легче писать на часто обсуждаемые темы, такие как пьеса Шекспира или важность митохондрий.

«Он хочет создавать тексты, которые он считает вероятными, учитывая все, что он видел раньше», — объясняет Винсент Конитцер, профессор компьютерных наук в Карнеги-Меллон. «Возможно, временами это звучит немного обобщенно, но написано очень ясно. Вероятно, в нем будут перефразированы моменты, которые часто высказывались по этой конкретной теме, потому что, по сути, он узнал, что говорят люди».

Так что пока мы имеем дело не со всезнающим ботом. Ответы, предоставленные ИИ, недавно были запрещены на платформе обратной связи по кодированию StackOverflow, поскольку они, скорее всего, были неверными. Чат-бота также легко сбить с толку загадками (хотя его попытки ответить на них крайне забавны). В целом, система совершенно удобна для создания вещей, которые, очевидно, не имеют смысла при человеческом внимании. Эти ограничения могут утешить людей, обеспокоенных тем, что ИИ может лишить их работы или в конечном итоге создать угрозу безопасности людей.

Но ИИ становится все лучше и лучше, и даже текущая версия GPT уже отлично справляется с некоторыми задачами. Рассмотрим задание Моллика. Хотя система, безусловно, была недостаточно хороша, чтобы получить пятерку, она все равно работала довольно хорошо. Один пользователь Твиттера сказал, что на пробном экзамене SAT ChatGPT набрал около 52 процентилей тестируемых. Крис Джордан, профессор компьютерных наук в Университете Северной Каролины, рассказал Recode, что, когда он назначал GPT свой выпускной экзамен, чат-бот получил отличную оценку, намного лучшую, чем средний балл людей, проходящих его курс. И да, еще до того, как ChatGPT был запущен, студенты использовали все виды искусственного интеллекта, включая более ранние версии GPT, для выполнения своих заданий. И, вероятно, их не помечают за мошенничество. (Turnitin, производитель программного обеспечения для защиты от плагиата, не ответил на многочисленные запросы о комментариях).

На данный момент неясно, сколько предприимчивых студентов могут начать использовать GPT и найдут ли преподаватели и преподаватели способ их поймать. Тем не менее, эти формы ИИ уже заставляют нас ломать голову над тем, какие вещи мы хотим, чтобы люди продолжали делать, и что мы предпочли бы, чтобы вместо этого выясняли технологии.

«Мой учитель математики в восьмом классе сказал мне не полагаться на калькулятор, так как я не буду носить его все время в кармане, когда вырасту», — сказал Recode Филипп Доусон, эксперт, изучающий списывание на экзаменах в Университете Дикина. «Мы все знаем, чем это закончилось.

Эта история была впервые опубликована в информационном бюллетене Recode.Подпишите здесьчтобы не пропустить следующий!