ChatGPT: Великая Чушь-2

Ложь, «галлюцинации» и чушь собачья

Чушь и ложь по Франкфурту

Многие популярные обсуждения ChatGPT называют его ложные утверждения «галлюцинациями». Можно также подумать об этой неправде как о лжи. Однако мы утверждаем, что это неправильный подход к этому вопросу. Мы будем утверждать, что эта ложь не является галлюцинациями позже – в Разд. 3.2.3. А сейчас мы обсудим, почему эта неправда не ложь, а чушь собачья.

Тема лжи имеет богатую философскую литературу. В «Лжи» святой Августин различал семь видов лжи, и на протяжении всей жизни его взгляды менялись. В какой-то момент он отстаивал позицию, согласно которой любой случай сознательного произнесения ложного высказывания считается ложью, поэтому даже шутки, содержащие ложные утверждения, такие как:

Я принял участие в конкурсе каламбуров и, поскольку очень хотел победить, подал десять работ. Я был уверен, что один из них выиграет, но ни один каламбур из десяти не сработал.

— будет расценено как ложь, поскольку я никогда не участвовал в таком соревновании (Proops & Sorensen, 2023¹¹). Позже эта точка зрения уточняется таким образом, что говорящий лжёт только в том случае, если хочет, чтобы слушатель поверил его высказыванию. Предположение о том, что говорящий должен иметь намерение обмануть, является обычным утверждением в литературе о лжи. Согласно «традиционной версии» лжи:

Лгать (опр.) - сделать ложное заявление другому лицу с намерением, чтобы другое лицо считало это заявление правдой (Mahon, 2015 ).

Для наших целей этого определения будет достаточно. Ложь обычно не одобряется. Но есть действия, вводящие в заблуждение, которые заслуживают критики и не подпадают под категорию лжи¹². К ним относится распространение ложных сплетен, которые человек ошибочно, но несправедливо, считает правдой. Ещё один класс вводящих в заблуждение свидетельств, которому философы уделили особое внимание, — это чушь собачья, бред сивой кобылы. Это обыденное понятие было проанализировано и введено в философский лексикон Гарри Франкфуртом¹³.

Франкфурт понимает, что чушь характеризуется не намерением обмануть, а безрассудным игнорированием истины. Студент, не прочитавший материал и пытающийся казаться знающим, политический кандидат, говорящий что-то, потому что оно хорошо звучит для потенциальных избирателей, и дилетант, пытающийся раскрутить интересную историю — никто из этих людей не пытается обмануть. Но они и не пытаются излагать достоверные факты. В теории Франкфурта они просто несут чушь.

Как и «ложь», слово «чушь» является одновременно существительным и глаголом: произведённое высказывание может быть ложью или примером чуши, равно как и сам акт производства этих высказываний. Чтобы высказывание было классифицировано как чушь, оно не должно сопровождаться явными намерениями, которые возникают при лжи, то есть вызвать ложное убеждение у слушающего. Разумеется, оно не должно сопровождаться и намерениями, характеризующимися честным высказыванием. Пока эта история носит исключительно негативный характер. Должны ли в говорящем проявляться какие-либо положительные намерения?

На протяжении большей части дискуссии Франкфурт характеризует чушь негативную. Он отмечает, что чушь не требует от говорящего «никакой убеждённости» в том, что такое истина, что чушь «не обращает внимания» на правду и что они «не могут обмануть нас или даже намеренно сделать это либо в отношении фактов, либо в отношении того, что они считает фактами». Позже он описывает «определяющую черту» чуши как «отсутствие интереса к истине или безразличие к тому, как обстоят дела на самом деле». Это наводит на мысли о негативной картине. Для того, чтобы результат был классифицирован как бред сивой кобылы, достаточно пренебрежительно относиться к истине.

Однако местами преобладает позитивное намерение. Франкфурт говорит, что несущий чушь….

«…обязательно пытается обмануть нас относительно своей инициативы. Его единственная неотъемлемая отличительная черта состоит в том, что он определённым образом искажает то, что задумал».

Это несколько удивительно. Он ограничивает то, что считается чушью, лишь высказываниями, сопровождаемыми обманом более высокого порядка. Однако в некоторых примерах Франкфурта эта особенность отсутствует. Когда Фания Паскаль описывает своё плохое состояние как «ощущение себя собакой, которую только что сбили» своему другу Витгенштейну, было бы слишком легковерно предполагать, что она намеревалась обмануть его относительно того, как много она знала о том, как чувствуют себя сбитые собаки. А учитывая, что условия для чуши обычно описываются как негативные, мы можем задаться вопросом, действительно ли позитивное условие необходимо.

Различия чуши

Следует ли считать чушью высказывания без намерения обмануть? Одна из причин в пользу расширения определения или охвата множественной чуши указана в комментариях Франкфурта об опасностях чуши.

«В отличие от [просто непонятных рассуждений] безразличие к истине чрезвычайно опасно. Цивилизованная жизнь и жизнеспособность институтов, которые необходимы для неё, фундаментально зависят от уважения к различию между истиной и ложью. Поскольку авторитетность этого различия подрывается преобладанием чуши и бездумно-фривольным отношением, которое принимает распространение чуши как безобидного, незаменимое человеческое сокровище растрачивается».

Эти опасности, по-видимому, проявляются независимо от того, имеется ли намерение обмануть в отношении предприятия, которым занимается говорящий. Сравните обманщика, который действительно стремится ввести нас в заблуждение относительно того, что он занимается праведным делом, с человеком, который не преследует такой цели, но просто говорит ради разговора (без заботы и даже какой-либо мысли об истинностном значении своих высказываний).

Один из примеров чуши у Франкфурта, кажется, лучше отражается в более широком определении. Он считает рекламную индустрию, которая «изобилует чушью настолько явной, что она служит одной из самых бесспорных и классических парадигм этой концепции». Однако похоже, что многие рекламодатели ошибочно истолковывают свои цели как вводящие в заблуждение относительно своих программ. Ожидаемо, что они будут говорить вводящие в заблуждение вещи. Франкфурт обсуждает рекламу Marlboro, в которой говорится, что курильщики так же храбры, как ковбои. Разумно ли предполагать, что рекламщики в самом деле верят в это?

Франкфурт действительно допускает существование нескольких видов чуши¹⁴. Следуя этому предположению, мы предлагаем рассматривать чушь как род, а намеренную чушь Франкфурта — как один из видов внутри этого рода. Другие виды могут включать в себя высказывания рекламодателя, который ожидает, что никто не поверит его высказываниям¹⁵, или кого-то, кто так или иначе не имеет намерения относительно того, вводят ли они свою аудиторию в заблуждение. Для этого рассмотрим следующие различия:

Чушь в общем смысле
Любое высказывание, в котором говорящий безразличен к истинности высказывания.

Жёсткая чушь
Чушь с целью ввести аудиторию в заблуждение относительно планов автора.

Мягкая чушь
Чушь без намерения ввести слушателя в заблуждение относительно целей говорящего.

Общее понятие чуши полезно: в некоторых случаях мы можем быть уверены, что высказывание было либо мягкой чушью, либо твёрдой чушью, но неясно, какой именно, учитывая наше незнание намерений говорящего более высокого порядка¹⁶. В таком случае мы все ещё можем назвать это чушью.

Собственный отчёт Франкфурта с реальными требованиями к целям продюсера — это жёсткая чушь. Тогда как мягкая чушь, похоже, описывает некоторые примеры Франкфурта, такие как разговор Паскаля с Витгенштейном или работа рекламных агентств. Возможно, было бы полезно поместить эти различия в существующую литературу. По нашему мнению, жёсткая чушь наиболее тесно связана с Кассамом (2019) и позитивным мнением Франкфурта, поскольку все эти мнения утверждают, что для того, чтобы высказывание было чушью, должно присутствовать определенное намерение, а не просто отсутствовать. Своего рода «эпистемическая беззаботность» или порочное отношение к истине, с точки зрения Кассама, и (как мы видели) намерение ввести слушателя в заблуждение относительно намерений говорящего, с точки зрения Франкфурта. В разделе 3.2 мы рассматриваем, может ли ChatGPT быть жёсткой чушью. Но тут важно отметить — нам кажется, что жёсткая чушь, подобная двум цитируемым здесь мнениям, требует от человека определиться, могут ли LLM быть агентами, и потому требуют дополнительных аргументов.

Мягкая чушь, напротив, отражает только негативное требование Франкфурта – то есть безразличие к истине, которое мы классифицировали как определение чуши (общее) – по причинам, указанным выше. Как мы утверждаем, ChatGPT — это, как минимум, мягкая чушь или машина для чуши, потому что, если он не является агентом, то он не может ни сохранять какое-либо отношение к истине, ни к обману слушателей относительно своей программы (или, возможно, правильнее, ее пользователей). .

Важно отметить, что даже этот более скромный вид чуши будет иметь пагубные последствия, которые беспокоят Франкфурта: по его словам, «безразличие к истине чрезвычайно опасно... человеческие сокровища растрачены» (2002, стр. 343). Относясь к ChatGPT и подобным LLM как к инструментам, каким-либо образом связанным с истиной, или говоря метафорически, считая, что они совершают ошибки или страдают «галлюцинациями» в поисках истинных утверждений, мы рискуем именно этим принятием чуши и этой растратой смысла. Независимо от того, является ли ChatGPT жёсткой или мягкой чушью, он всё равно делает чушь. И лишь это имеет значение.

Часть первая >>>

Часть третья >>>

⁂ Сноски

¹ Frankfurt, H. (2002). Reply to cohen. In S. Buss, & L. Overton (Eds.), The contours of agency: Essays on themes from Harry Frankfurt. MIT Press.

² Frankfurt, H. (2005). On Bullshit, Princeton.

³ Alkaissi, H., & McFarlane, S. I., (2023, February 19). Artificial hallucinations in ChatGPT: Implications in scientific writing. Cureus, 15(2)

⁴ Zhang (2023). How language model hallucinations can snowball.

⁵ OpenAI (2023). GPT-4 technical report.

⁶ Shah, C., & Bender, E. M. (2022). Situating search. CHIIR ‘22: Proceedings of the 2022 Conference on Human Information Interaction and Retrieval March 2022 Pages 221–232

⁷ Zhu, T., et al. (2023). Large language models for information retrieval: A survey.

⁸ Lysandrou (2023). Comparative analysis of drug-GPT and ChatGPT LLMs for healthcare insights: Evaluating accuracy and relevance in patient and HCP contexts.

⁹ Davis, E., & Aaronson, S. (2023). Testing GPT-4 with Wolfram alpha and code interpreter plub-ins on math and science problems.

¹⁰ Lightman, H., et al. (2023). Let’s verify step by step.

¹¹ Прупс И. и Соренсен Р. (2023). Дестигматизация экзегетической атрибуции лжи: случай Канта. Тихоокеанский философский ежеквартальный журнал.

¹² Особенно удивительную позицию занимает Фихте, который считает ложью не только ложь упущения, но и заведомое неисправление того, кто действует во лжи. Например, если бы я надел парик и кто-то поверил бы, что это мои настоящие волосы, Фихте считает это ложью, в которой я виновен.

¹³ Originally published in Raritan, VI(2) in 1986. References to that work here are from the 2005 book version.

¹⁴ Делая этот комментарий, Франкфурт признает, что то, что Коэн называет «чушью», также достойно этого названия. По мнению Коэна чушь — это тип неразъяснимого текста, который он ассоциирует с французскими марксистами. Несколько других авторов также по-разному исследовали эту область в последние годы, каждый из которых внёс ценные факты в дискуссию. Деннис Уиткомб и Кенни Исваран расширяют области применения термина «чушь собачья». Уиткомб утверждает, что могут быть бредовые вопросы (а также предложения), тогда как Исваран утверждает, что мы можем плодотворно рассматривать некоторые действия как чушь.

Хотя мы признаем, что они дают ценную информацию о чушь, мы ограничим наше обсуждение Франкфуртскими рамками. Для тех, кто хочет глубже разобраться в этих различиях, книга Нила Леви «Философия, чушь и экспертная оценка» (2023) предлагает таксономический обзор существующей чуши.

¹⁵ Это не должно мешать их цели. Рекламодатель может намереваться вызвать у своей аудитории ассоциации (например, позитивные мысли, такие как «ковбои» или «храбрый» с маркой сигарет) или укрепить/внушить узнаваемость бренда.

Франкфурт описывает этот тип сценария как происходящий в «бычьей сессии»: «Каждый из участников бычьей сессии полагается... при общем признании того, что то, что он показывает или говорит, не следует понимать как то, что он икренне имеет в виду или во что он безоговорочно верит. Однако Франкфурт утверждает, что содержание бычьих сессий отличается от чуши.

¹⁶ Стоит отметить, что нечто вроде различия между жёсткой и мягкой чушью, которое мы проводим, также встречается у Коэна: он предполагает, что мы можем думать о ком-то как о человеке, который предрасположен к чуши, независимо от того, часто или редко он достигает цели», или если он просто «склонен к чуши и по какой-то причине делает много необъяснимых вещей». Хотя мы не принимаем здесь точку зрения Коэна, параллели между его характеристикой и нашей поразительны.

¹⁷ Конечно, камни также не могут выражать предложения, но часть сомнений здесь заключается в том, действительно ли ChatGPT показывает предложения или является просто средством, с помощью которого агенты показывают предложения. Ещё одно сомнение заключается в том, что мы даже не должны рассматривать ChatGPT как выражение предложений — возможно, здесь нет коммуникативных намерений, и поэтому мы должны рассматривать результаты как бессмысленные. Даже принимая это, мы всё равно можем осмысленно говорить о них как о выражениях пропозиций. Это предположение — беллетристика в отношении чат-ботов — недавно обсуждалось Мэллори¹⁸ .

¹⁸ Mallory, F. (2023). Fictionalism about chatbots. Ergo, 10(38), 1082–1100.

¹⁹ Mandelkern, M., & Linzen, T. (2023). Do language models’ Words Refer?

²⁰ Macpherson, F. (2013). The philosophy and psychology of hallucination: an introduction, in Hallucination, Macpherson and Platchias (Eds.), London: MIT Press