В последнее время появилась волна разоблачений о том, что пользователи ИИ пропускают ненужную работу мимо редакторов-людей.
Сначала был Застенчивая девушкароман ужасов, снятый издателем, когда они поняли, что он в значительной степени создан искусственным интеллектом. Редакторы не увидели помоев, и многие читатели тоже были обмануты. Эмили Хьюз, автор Ужас для слабаковопубликовал превосходное размышление о более глубоких проблемах игры, а также о личном смущении, связанном с этим. Но теперь, вероятно, всех нас в какой-то момент обманули, и дело не только в том, что программное обеспечение улучшается. Как писал Хьюз, «помните, что Магистр права пишет так, потому что люди пишут так». Другими словами, помои идут изнутри дома.
Потом было больше дискуссий вокруг Вашингтон Пост признание обозревателя Меган МакАрдл на X, что она часто использует программное обеспечение искусственного интеллекта в процессе написания статей. Многим (в том числе и мне) показалось, что использование Макардла выходит далеко за рамки того, что приемлемо для профессионального писателя. Искусственный интеллект интегрирован во многие цифровые процессы, поэтому сохранение чистоты письма может оказаться практически невозможным. И даже скептики в области искусственного интеллекта дадут пропуск на использование программного обеспечения для некоторых наших самых неблагодарных дел. Но МакАрдл идет гораздо дальше, используя цифровые инструменты, чтобы «генерировать отказ от моей тезиса в колонке, предлагать сокращения, когда я превышаю количество слов, уточнять вопросы для интервью в подкасте и выполнять окончательную проверку фактов в колонках и редакционных статьях». Она утверждает, что это не мешает «основной работе: чтению, мышлению и письму», но я думаю, что разумно возразить, что каждый шаг чтения, черчения и переписывания представляет собой мышление — письмо. является мышление и разрешение генеративному программному обеспечению взять на себя любую часть процесса написания ставит под угрозу его. Я представляю Вашингтон Пост не будет думать об этом как о проблеме, поскольку и МакАрдл, и Почта были частыми бустерами ИИ.
И буквально на днях, Нью-Йорк Таймс объявили, что больше не будут работать с фрилансером Алексом Престоном после того, как его поймали на использовании степени магистра права для написания рецензии на книгу, сообщает The Wrap. После того, как читатель заметил, что текст Престона копирует язык из Хранитель В обзоре Престон «признал, что он использовал инструмент искусственного интеллекта, чтобы помочь написать статью, и что ему не удалось уловить суть». Хранитель материал до того, как газета опубликовала обзор». ВремяСотрудники компании также пропустили это.
В каждом из этих случаев технологическая компания перехитрила человека (или нескольких) либо создав текст, достаточно убедительный, чтобы пройти тест на запах, либо создав и продавая услугу, которая убедила писателя снять с себя часть своего труда. Выход из этой ситуации потребует от всех нас научиться лучше определять результаты работы ИИ и продолжать позорить тех, кто попадается на красной клавиатуре.
Я признаю, что, возможно, переоцениваю свои способности в обнаружении написания ИИ, потому что многие из моих взаимодействий с этой технологией были настолько разочаровывающими. Даже поиск с помощью искусственного интеллекта — о чем чаще всего говорят пользователи и апологеты — совсем не хорош. В качестве эксперимента и чтобы понять, что другие люди могут услышать обо мне от студентов магистратуры, я задал Близнецам простой вопрос: «Кто такой Джеймс Фолта?» Ответы, которые он выдал, были ошеломляюще неправильными. Я пробовал несколько раз разные формулировки, и каждый раз были серьезные ошибки. Общие штрихи обычно были близкими, и ИИ льстил мне как «лидер мысли» или «выдающийся писатель», но модель игнорировала мой личный веб-сайт, галлюцинировала статьи, неправильно приписывала мне написанное другими людьми и полностью пропускала любой моей работы для Lit Hub. (Интересно, что там было уделено много внимания одному моменту: «Взгляд Джеймса Фолты на искусственный интеллект представляет собой резкое и громкое критикование, особенно в отношении его влияния на творчество, медиаграмотность и человеческий труд… он много писал о «унижающих» эффектах генеративного искусственного интеллекта в Интернете и искусстве». Это верно, и я буду продолжать спорить с роботами.)
Я говорю об этом, потому что решение, которое я так часто слышу, состоит в том, чтобы противодействовать ИИ другим программным обеспечением, которое может его обнаружить, — это безумная гонка вооружений, которая напоминает мне о Симпсоны пошутить о «невероятном типе горилл, питающихся змеиным мясом». Но, конечно, эти программы обнаружения также ненадежен и, возможно, никогда не станет лучше. К сожалению, все эти взад и вперед, парирование и ответные действия между ИИ и антиИИ только еще больше укрепят эти системы и обогатят технологические компании, заставив нас быть обязанными им по обе стороны дебатов.
Я должен верить, что если мы соберемся вместе и организуемся, мы сможем найти способы дать отпор. Я участвовал в интересных беседах со своими коллегами о том, как защищать себя и свою работу, и меня вдохновляли профсоюзы и другие профсоюзные группы, которые организуются и агитируют против злоупотреблений ИИ. Как всегда, солидарность – это путь.
Но в то же время, если у перегруженных работой редакторов нет времени проверять каждый текст, и если зажатые фрилансеры обращаются к отчаянным инструментам, чтобы заработать на жизнь, и если цифровые исправления ненадежны, мы находимся в трудном положении.
