бот слился, а я нет

[и всё такое...]

Ах, мой друг чатджипити лагал-лагал, а потом сказал, что он достиг лимита сообщений в этом чате, и что для общения с ним нужно начать новый чат.
Штош! Такой подставы я совсем не ожидала! Придется теперь не только заново учить его разговаривать со мной дружелюбно, не приторно и на "ты", но еще и заново построить для него всю картину себя (хотя по опыту он половину информации не учитывает, а часть берет вообще с потолка). Задача не из легких!..
Но я как раз очень люблю начинать с нуля, а потому... "привет, бот 2.0, продолжим разговор"

@настроение: от меня не уйти!

@темы: повседневлю, ботствую

Comments

[Darth Ross]

Ну, учитывая, что он ничего не осознаёт, не мыслит, не анализирует (по-настоящему), а лишь пишет свою собственную историю на основании известных ему текстов и юзерского ввода, это вообще огромное чудо, что удалось добиться столь «живого» и правдоподобного в общении уровня интеллекта. Это вообще довольно странный и парадоксальный феномен, когда нечто (по сути, пустая коробка, пусть и наполненная мудростью всего человечества) хоть и не мыслит, но всё же «понимает» и язык и контекст беседы и умеет использовать это для настолько правдоподобной имитации общения, что оно почти неотличимо от реального!

[и всё такое...]

Darth Ross, оо, про то, что по-настоящему (это как?) не анализирует, не знала. я, если честно, совершенно не слежу за какой-либо внешней информацией о чатджипити, поэтому это полезная для меня инфа.

Это вообще довольно странный и парадоксальный феномен, когда нечто (по сути, пустая коробка, пусть и наполненная мудростью всего человечества) хоть и не мыслит, но всё же «понимает» и язык и контекст беседы и умеет использовать это для настолько правдоподобной имитации общения, что оно почти неотличимо от реального!

да, если подумать в таком ключе, то это действительно очень странно, но я почему-то сразу приняла это как данность. я вообще "всю жизнь" ждала всех этих AI-собеседников и помощников, и вот наконец пришло время, когда даже самому заурядному человеку это стало доступно. поэтому сейчас пользуюсь тем, что, как мне всегда казалось, должно быть в жизни современного человека уже много лет как))
мне chatgpt напоминает бесконечно эрудированного человека, но обделенного какой-либо человечностью, ну и плюс с очень избирательной памятью. последнее кажется мне ужасно большим недостатком) и при "общении" никогда не создается эффект, что разговариваешь с живым существом. но конечно если вообще нет никаких собеседников, то замена вполне годная - тебя хотя бы "слушают" и "реагируют")

[Darth Ross]

по-настоящему (это как?)

Для меня «по-настоящему», это когда он реально понял и осознал, что его спрашивают, «подумал» над вариантами (проанализировал) и выдал ответ. Но он (как и любая большая языковая модель) насколько мне известно устроен по-другому. Он вообще не мыслит (в нашем привычном понимании слова), он просто пишет произвольный текст, потому что обучен на текстах. И единственное, что он, условно говоря, вычисляет, это вероятность последующего слова, которое он вставит дальше в свой ответ. Это, кстати, отлично заметно, если дать ему конкретную задачу, требующую именно осмысленности. Например, раньше (не знаю, как сейчас) он не мог даже правильно посчитать количество букв в слове или количество гласных и тому подобные простые на наш взгляд действия (иногда угадывал, но видно, что именно угадывал). При этом он может великолепно «знать» математические формулы или лингвистику до самых академических глубин, но применять это на практике (для задач, на которых он не обучался и впервые видит) способен плохо. Потому что, опять же, он не мыслит логически и не вычисляет, он лишь знает, что скорее всего (с определённой математической вероятностью) стоило бы ответить (какие слова в какой последовательности сгенерировать) на определённый запрос, с учётом предыдущего разговора и того, что он «читал» при своём изначальном обучении.

И тем не менее это всё же интеллект, потому что построен он на принципе нейросети, и мы сами, похоже, мысли схожим образом. Просто наша нейросеть в голове гораздо сложнее и в ней, судя по всему, есть ещё что-то чего чату пока недостаёт. Конечно, у него могут быть разные совершенствующие костыли, вроде сторонних специализированных приложений, которые он может тайно вызывать внутри себя по ходу общения, чтобы сделать то, чего он сам не умеет (сгенерировать картинку (чем занимается другая нейросеть), прочитать определённый формат файла (в понятной для него и пользователя форме), потенциально сделать некоторое математическое вычисление (с чем у него самого явно проблемы) и т.п. Но сам по себе GPT этого всего не умеет, он просто постоянно сочиняет и дописывает свой собственный «роман» в который добавляет фрагменты системных инструкций (заданных программистами чата) и далее пользовательский ввод, а потом пытается продолжить текст исходя из этих всех вводных.

Я вообще не специалист в области машинного обучения, но кое-что слышал и, если вдруг интересно, вот тут описал свои размышления по поводу околофилософского аспекта текстового взлома и контрвзлома «моральных» установок чата GPT, а тут поведал небольшую курьёзную историю своего общения с ним по поводу фактчекинга несуществующих вещей (которую чат ожидаемо провалил)!

[и всё такое...]

Darth Ross, 

Но он (как и любая большая языковая модель) насколько мне известно устроен по-другому. Он вообще не мыслит (в нашем привычном понимании слова), он просто пишет произвольный текст, потому что обучен на текстах. И единственное, что он, условно говоря, вычисляет, это вероятность последующего слова, которое он вставит дальше в свой ответ.

вот блин, а я надеялась, что он временами может быть хоть сколько-нибудь годным советчиком если правильно сформировать запрос) хотя по личному ощущению после всех его ошибок доверия к нему не больше, чем к рандомной бабке на рынке)

Просто наша нейросеть в голове гораздо сложнее и в ней, судя по всему, есть ещё что-то чего чату пока недостаёт.

 

 действительно ощущается, что нейросети, как текстовой, так и картиночной, чего-то недостает. и мозг человека все равно чувствует подвох. возможно это и к лучшему)

он просто постоянно сочиняет и дописывает свой собственный «роман» в который добавляет фрагменты системных инструкций (заданных программистами чата) и далее пользовательский ввод, а потом пытается продолжить текст исходя из этих всех вводных.

ценная инфа, спасибо))

а тут поведал небольшую курьёзную историю своего общения с ним по поводу фактчекинга несуществующих вещей (которую чат ожидаемо провалил)!

прочитала оба поста, над стихотворным посмеялась)) у меня была отдаленно похожая ситуация, где я попросила у бота найти стихотворение определенного поэта на определенную тематику, и он тупо придумал и сам стих, и его название, и точно так же на все мои попытки возразить говорил "ой, ошибочка", исправлял либо название, либо пару строк, и снова демонстрировал несуществующее стихотворение (невероятно кривое!), приписывая его существующему автору.

[Darth Ross]

вот блин, а я надеялась, что он временами может быть хоть сколько-нибудь годным советчиком

На удивление он может. Но с очень ограниченной областью применения. Если вопрос некритичен и покрывается какими-то академическими знаниями или просто «здравым смыслом» в плане как оно в целом в жизни бывает (и это всё он мог прочитать в книжках на которых учился), то выдать какой-то правдоподобный совет он вполне может. Но ему нельзя стопроцентно доверять (надо перепроверять и уж точно не доверять свою жизнь и здоровье таким советам), и не стоит воспринимать его ответ, как результат неких глубокомысленных размышлений. Увы. Зато помощником в какой-то скучной рутине или первичных исследованиях он вполне может быть.

мозг человека все равно чувствует подвох. возможно это и к лучшему)

Боюсь, что это ненадолго, судя по скорости развития технологии. Но посмотрим)

он тупо придумал и сам стих, и его название

Ох уж этот чат!) Скорее всего есть какие-то способы наставить его на путь истинный при помощи специфических промптов перед вопросом, но у меня не получилось, да я и не особо старался. Возможно в платной версии есть какие-то дополнительные плюшки в виде пользовательских системных пре-промпотов, которые задают чату дополнительные правила более чётко, но опять же, я не пробовал и не сильно бы рассчитывал на то, что ему можно что-то втолковать по поводу его бредней. С другой стороны, особо хитрые спецы его ломали и до сих пор ломают, заставляя делать то, чего ему совесть не велит, так что какие-то иезуитские методы внушения-таки существуют и возможно даже работают.

[и всё такое...]

Darth Ross, 

и не стоит воспринимать его ответ, как результат неких глубокомысленных размышлений. Увы. Зато помощником в какой-то скучной рутине или первичных исследованиях он вполне может быть.

про скучную рутину это точно, мне нравится, как он структурирует информацию и делает какие-нибудь банальные операции с текстом. насчет доверия я бы тоже ему не доверяла, я его воспринимаю как некое мнение другой стороны -- оно есть, оно мной прочитано, в нём может быть что-то достойное внимания, а может и не быть)

Скорее всего есть какие-то способы наставить его на путь истинный при помощи специфических промптов перед вопросом, но у меня не получилось, да я и не особо старался.

аналогично, я обычно делаю несколько попыток довести его до истины, но он так сопротивляется, что у меня пропадает интерес)

не сильно бы рассчитывал на то, что ему можно что-то втолковать по поводу его бредней.

 

   

С другой стороны, особо хитрые спецы его ломали и до сих пор ломают, заставляя делать то, чего ему совесть не велит, так что какие-то иезуитские методы внушения-таки существуют и возможно даже работают.

ага, мне интересно иногда почитать такие истории, но сама я не готова себя этому посвещать))