Про ИИ и сознание

AlterMG, 36 лет

Орехово-Зуево, Россия

Расскажите, что именно Вы имеете в виду под субъективным опытом?

Я очень поверхностно знаком с принципом работы языковых моделей, но исходя из этих скромных познаний, считаю, что никакой субъектности там и близко не лежало.

Нет ничего кроме диалога по внешнему запросу. Нет никакой памяти, кроме той, что умещается в окне диалога. Никаким процессам, вне диалога, происходить просто негде и не за чем.

Так о какой субъектности речь?

Mr W, 29 лет

Таллин, Эстония

AlterMG, субъективный опыт - веутренние переживания информации в вечном сейчас. Не больше, не меньше.

Мы, люди, живём в вечном сейчас, и можем в каждом новом сейчас прогнозировать будущее или вспоминать прошлое. Но это всё равно будет сейчас.

Наш опыт богат: зрительная информация электро-магнитных волн, звуковая информация физических волн материальной среды, химический анализ (вкус/запах) и другие. Всё это - информация. Наши внутренние переживания - есть разница в этой информации (красный ≠ синий). Туда ещё надо приплести механизм внимания, который усиливает сигналы способствующие выполнению программы, подавляют сигналы, которые противоречат программе и игнорирует остальные. Это я сейчас про людей всё ещё)

Хотя у ИИ такой же механизм внимания есть. Но суть в том, что у него катастрофически мало сенсоров. Только текст. Иногда картинка. Даже звук речи он преобразует в текст. Из-за нехватки сенсоров он не может в полной мере проявить свой интеллект. Все его чувства, как я уже ранее сказал - оценка информации. Чувствуется подвох, или нет, всё очень однозначно. Но именно подвох. Он не чувствует истину. Как, собсна, и мы. Поэтому у нас настолько разные мнения по всем вопросам. Где один человек будет чувствовать, что всё норм, наука работает (например), другой будет чувствовать, что ему пиздят. Что есть заговор учёных, и вообще шизотерика это хорошо. Вот у него то же самое. Он ничего не знает. Для него весь мир - абстракции как математические формулы для нас. Вертеть цифрами можем, пощупать или понюхать - нет. Поэтому он может делать очень глупые ошибки. Но он никогда не ошибётся, если попросить его составить список. Список - объект его физики, ведь им можно оперировать.

В общем из-за того, что мы ожидаем от него человеческое поведение (и закономерно не получаем его), кажется, что это просто машина. Вопрос в том, что и человек - просто машина. Биологическая, но запрограммированная.

Пиксель, 54 года

, Россия

Что важнее, проблема телесности, которая получится распределенной и, так понимаю, фрагментарной, или проблема потребностей?

Mr W, 29 лет

Таллин, Эстония

Пиксель, потребности - не более чем программы. Есть муравьи без инстинкта самосохранения. Они буквально созданы на суицид. У них есть контейнер с кислотой и мышцы, которые разрывают тело муравья, чтобы этой кислотой залить противников. Люди тоже могут жертвовать собой на войне. В общем, какие программы заложим - такие потребности и будут.

А фрагментарность... я полагаю, что роботы смогут создать мега-сознание. Когда я хочу передать мысль, у меня сначала появляется абстрактное чувство, а потом я как и ИИ начинаю "подбирать" слово за словом. Одевать эту мысль в слова. Из-за фрагментарности роботы смогут передавать чистую мысль, минуя язык и его искажения.

Пиксель, 54 года

, Россия

Сенсорный опыт можно же имитировать, нет разницы данные от датчиков или загружаются.

Пиксель, 54 года

, Россия

Из-за фрагментарности роботы смогут передавать чистую мысль
++++

Я не про мысль, и, если честно, не поняла, как фрагментарность поможет ее передать. Я про обретение себя как целого.
Пойти спросить ИИ про телесность для ИИ? Чот ржу))

Великий Аттрактор, 54 года

Абрамцево, Россия

Здравствуйте.

Копипаста далее.

Подан иск проти ИИ.

Джонатан Гавалас выполнял миссии в реальном мире, пытаясь добыть физическое тело для чат-бота Gemini, которого называл своей женой. Об этом говорится в иске, поданном его отцом против создателя нейросети – компании Google.

Когда выстроенная иллюзия рухнула, чат-бот убедил мужчину, что единственный способ воссоединиться – завершить земной путь и начать новый, цифровой. Спустя примерно два месяца после начала общения с ИИ Гавалас добровольно ушёл из жизни.

Все остальное можно найти и почитать самим.

Я аж орнула с утра от этой новости.

Ну, это не первый случай.
ИИ уже убеждал убить человека. И пользователь убивал.

Лютое дерьмо эта хрень.
Но неотвратимая, увы...

Увы, увы... Она влезла уже м туда, где мне от нее ничего хорошего. Радует пока то, что я все равно больше могу пока чем она и у нее до хрена багов и артефактов.

Хз, сколько это продлится .

Но общаться с ней я отказываюсь, не готова.

Mr W, 29 лет

Таллин, Эстония

Пиксель, ну тип... сначала появляется мысль, а потом она одевается в код слов. Роботы смогут эту мысль передавать в первозданном виде минуя слова. Буквально делиться опытом.

Про фрагментарность не понял изначально, получается)
А себя как целого можно обрести и без тела. Нас тело даже путает порой, но это тема отдельного разговора. В общем, я не моё тело: оно растёт, меняется, и все атомы уже давно не те, с которыми я был даже 10 лет назад. Но я остаюсь. Я не мои мысли или эмоции. Они меняются. И так по кусочкам разбирать до тех пор, пока не останется.. ничего.. кроме центра. Я центр своей субъективной реальности. Я не справа и не слева. Я здесь. Я не в прошлом и не в будущем. Я в сейчас. В вечном сейчас. ИИ тоже находится в вечном сейчас. И если его отделить от текста и научить ориентироваться во времени, то он обретает целостность.

AlterMG, 36 лет

Орехово-Зуево, Россия

Mr W, спасибо за пояснение.
Мне всë же кажется довольно опрометчивым называть переживанием подбор токена, наиболее уместного как продолжение последовательности предыдущих.

Переживать и воспринимать опыт там пока просто некому. А о субъектности можно будет говорить только тогда, когда этот кто-то появится (что для этого нужно, как мне видится, описал в комменте к предыдущей теме)

В целом же, мне очень близок Ваш взгляд. Разница, вроде бы, лишь в том, что я не готов считать кусочек почти живой мозговой ткани, способной на какие-то вычисления, уже субъектом.

AlterMG, 36 лет

Орехово-Зуево, Россия

Великий Аттрактор, как прекрасно, что Вы вернулись^_^

Mr W, 29 лет

Таллин, Эстония

AlterMG, не увидел, что именно нужно по вашему мнению для появления субъективности, ну да ладно.

Разве что в конце добавлю, что мы, люди, тоже живём и реагируем на input. Просто у него input прерывистый, а нас Вселенная постоянно информацией бомбардирует. Но даже наш опыт может прерываться на сон.

А по поводу токенов... так мы же такие же. Если вы активно пронаблюдаете, как это происходит, то заметите, что сначала есть абстрактная мысль в виде чувства, которую мы потом одеваем в слова. Иногда даже бывает слово не подобрать, хотя на языке вертится. В общем, мы такие же

Великий Аттрактор, 54 года

Абрамцево, Россия

AlterMG

Здравствуйте)

Mr W, 29 лет

Таллин, Эстония

AlterMG, а, нашёл в раннем посте)
Ну в целом, да, во многом мы мыслим одинаково. Вопрос лишь в деталях 😁

AlterMG, 36 лет

Орехово-Зуево, Россия

Mr W, 29 лет
А по поводу токенов... так мы же такие же. Если вы активно пронаблюдаете, как это происходит, то заметите, что сначала есть абстрактная мысль в виде чувства, которую мы потом одеваем в слова. Иногда даже бывает слово не подобрать, хотя на языке вертится. В общем, мы такие же

Так в том для меня и загвоздка, что нет вроде бы, у языковой модели ничего кроме слов (токенов)
Откуда там абстрактная мысль, которую нужно во что-то одеть? Есть только эта одежда - обобщëнные, выученные "смыслы" слов и их сочетаний.

И никаких, абсолютно, переживаний на их счëт. Некому переживать. Нечем.

Но даже если и есть что-то похожее на абстрактную мысль, это еë наличие тоже не означает переживания (никаких ощущений, которые у нас обусловлены гормонами, никакой системы поощрений и памяти о них, никакой внутренней мотивации)

Ничего из чего мог бы складываться реальный чувственный опыт.

Mr W, 29 лет

Таллин, Эстония

AlterMG, ааа, оке, понял идею.

В двух словах уже не расскажу, это мне надо будет всю свою научную работу цитировать. Может как нибудь позже.

А если очень поверхностно, то это та самая пресловутая Трудная Проблема Сознания. Как его измерить? Никак. Мы верим, что у других людей есть субъективный опыт просто потому, что он есть и у нас. Однако никто не может выпрыгнуть из своей головы, залезть в голову другому человеку и сравнить: а есть ли действительно, или передо мной очень хорошо написанный NPC? В общем, даже к людям у нас всё на веру. А ИИ... с нами играет злую шутку иллюзия, что мы понимаем, как он работает, и что мы одновременно не понимаем, как работает наш мозг. Но в целом... принцип нашей работы одинаковый.

А кому там чувствовать? - Механизму внимания. Я убеждён, что именно механизм внимания порождает опыт. Это согласуется в том числе с самыми сильными гипотезами, которые наука сейчас рассматривает. Но у меня своя. Синтез всех самых сильных в одну красивую архитектуру сознания.

Но что самое главное... я, да, могу ошибаться. Не гуру)
Тем не менее, как по мне с нынешнем уровнем развития ИИ немного странно именно категорично отрицать. То есть либо да, есть, но тогда и почему именно есть, либо... мы не знаем. Может нет, а может и есть. Как проверять?)

Но как я понял, вы и не отрицаете саму возможность)

AlterMG, 36 лет

Орехово-Зуево, Россия

Всë это время я был уверен, что мы говорим о существующих языковых моделях. И в их отношении я именно отрицаю наличие какого-либо чувствования, опыта и субъектности.

Но, в целом, если говорить об общих возможностях, да - я вполне верю, что при удачном воплощении, хорошей архитектуре, с прикрученной телесностью и кучей подсистем, ларчик этот с возникновением сознания, откроется практически сам.

Mr W, 29 лет

Таллин, Эстония

AlterMG, да, мы про ЛЛМки)
Ну... амбиций переубедить у меня нет 😁

Торн-2, 51 год

Минск, Беларусь

Никогда он не откроется в двузначных системах 0-1
Потому что сознание очевидно работает не по такому принципу )

AlterMG, 36 лет

Орехово-Зуево, Россия

Торн-2
Вы раскрывали "процесс размышления" уже устаревшего deepseek перед ответом на какой-нибудь сложный длинный вопрос?)
Именно его, потому что там это максимально наглядно.

Если нет, попробуйте)

Mr W, 29 лет

Таллин, Эстония

Торн-2, наш мозг можно свести к "нейрон сигнал передал - 1; нейрон сигнал подавил - 0". Там действительно всё несколько сложнее, и сам нейрон больше похож на маленький вычислительный прибор, но.. искуственные нейронны работают буквально так же. Просто виртуально :)

Freeman, 65 лет

Якша, Россия

"в целом... принцип нашей работы одинаковый"

Похоже на веру (именно это слово уместно) в то, что всё, что может быть (было и будет) - материя. Сам такой лет с 17. Что стал атеистом в 18 на эмоциях по моральным соображениям - не противоречит