В 1966 году исследователь Джозеф Вейценбаум создал программу ELIZA, которая имитировала беседу с психотерапевтом. Простая на первый взгляд программа могла перефразировать утверждения пользователя и задавать уточняющие вопросы. Несмотря на очевидную примитивность алгоритмов, многие пользователи начинали воспринимать ELIZA как разумного собеседника. Это явление получило название "эффект Элизы" и стало одной из первых иллюстраций того, как люди склонны антропоморфизировать технологии.

Эффект Элизы проявляется в том, что люди приписывают алгоритмам человеческие качества, такие как эмпатия или разум, если взаимодействие с программой кажется хоть немного осмысленным. Даже самые простые программы, которые лишь следуют жестко заданным шаблонам, могут казаться интеллектуальными из-за нашей склонности искать смысл в коммуникации. Например, если чат-бот задает вопрос в ответ на нашу фразу, мы можем предположить, что он "понимает" нас, хотя его действия являются результатом заранее определенных правил.

Этот феномен имеет важные последствия для взаимодействия человека с технологиями. Он показывает, что наше восприятие интеллекта субъективно и не обязательно связано с реальной сложностью программы. В современном мире, где нейросети и искусственный интеллект стали более сложными, эффект Элизы обострился. Мы взаимодействуем с виртуальными ассистентами, чат-ботами и генеративными моделями, которые кажутся "умными", хотя в большинстве случаев они просто находят статистически вероятный ответ на наш запрос.

Однако эффект Элизы несет в себе и риски. Привязываясь к "человечности" машин, мы можем переоценивать их возможности или доверять им больше, чем следовало бы. Например, использование чат-ботов в медицинских или психологических консультациях может создать иллюзию заботы и компетентности, которой на самом деле нет.

Эффект Элизы напоминает нам, что технологии — это инструменты, а не разумные существа. Наша задача — понимать их ограничения и использовать их осознанно. Хотя машины становятся все более "умными", их интеллект остается искусственным, а понимание — иллюзорным.

Выпустил новый релиз приложения. В нём я улучшил работу с синонимами. Раньше при попытке изучить, например, наречия времени в немецом языки во время прохождения теста, пользователь должен был выбрать перевод к слову "сейчас". Если в словаре было несколько переводов, например, "nun", "gerade", "momentan" и так далее, пройти тест было нереально, так как, хотя все эти варианты правильные, приложение принимало только один из них, что вызывало раздражение.

Теперь при составлении теста в альтернативные варианты добавляются только заведомо неправильные ответы. И теперь я наконец смогу выучить этот словарик!

Лекс Фридман взял интервью у Владимира Зеленского!

Долгое время использую для синхронизации связку Termux + git и доволен как слон. Однако настройка всего этого занимает массу времени и подходит только для технических задротов вроде меня. Подумал, существует ли что-то проще? Поиски в сети не дали каких-либо работающих решений, поэтому мне стало интересно, а можно ли запрограммировать что-то с нуля. Оказалось, что вполне реально. Существует реализация JGit под Java, которая вполне работает, если ее встроить в Android-приложение. Единственную проблему, которую я сейчас пытаюсь решить, это то, что файлы должны быть доступны в общем хранилище андроид-устройства, а напрямую доступа в это хранилище у Android-приложения нет, поэтому приходится дополнительно к операциям с git реализовать операции копирования из внутреннего хранилища устройства во внешнее и наоборот. Как сделать проще, я пока не придумал. Из-за этого мое решение работает значительно медленнее, чем решение на базе Termux. В принципе, не сильно критично, но неприятно - у меня в заметках несколько тысяч файлов, и ждать полторы минуты вместо сорока секунд, когда они синхронизируются, мне не хочется...

Если получится ускорить решение опубликую на Play Market вдруг такая программа не только мне окажется полезной?

Upd: Проблему со скоростью решил, теперь работает даже быстрее чем Termux, потестирую еще некорое время на предмет багов, но кажется получилось что-то полезное...

Этот год был, как бы сказать... турбулентным и вот, Алексей Анатольевич похоронен на Борисовском кладбище в Москве, Юрий Юлианович сейчас в Израиле лечится после инфаркта, Борис Борисович в Лодоне пропустил несколько концертов из-за проблем со здоровьем. 

Посмотрим что принесет или унесет от нас новый год...

Начиная создавать анимированные гифки очень трудно остановиться. Cегодня у нас мини-инструкция как можно закомментировать несколько строк в vim:

При помощи ffmpeg создать анимированный gif не просто а очень просто:

Шаг 1. Создаем палитру

ffmpeg -i output.mp4 -vf "palettegen" palette.png

Шаг 2. Делаем анимированный gif

ffmpeg -i output.mp4 -i palette.png -lavfi "fps=15,paletteuse" output.gif

Анимированный git готов:

В своей книге "Думай медленно... решай быстро" Даниэль Канеман разделяет сознание на два режима работы: режим размышления, когда мы действуем осмысленно, учимся, анализируем новые данные, и режим автопилота, когда мы используем те данные, которые уже накопили. Осмысленный режим требует много усилий, в нём мы можем находиться очень недолго и быстро устаём. В режиме автопилота мы находимся всё остальное время — это нам даётся легко, но в этом режиме мы можем совершать ошибки, если вовремя не поймём, что ситуация требует осмысленного принятия решений

Большие языковые модели имеют похожее свойство: они тоже имеют два режима — режим обучения и режим автоматического ответа на запросы. В режиме обучения мы обучаем модель на наборе данных или дообучаем её на кастомном датасете. Самостоятельно обучаться модели пока не умеют и требует много вычислительных ресурсов. В режиме вопрос-ответ нейронная сеть больше не изменяет свои коэффициенты — она использует накопленный опыт, чтобы выдавать ответ, который от неё ожидают, прямо как человек в режиме автопилота.

Что если в будущем нейронные сети научатся самостоятельно входить в режим обучения и обучать сами себя? Тогда мы получим полноценные интеллекты, способные приспосабливаться к новым условиям и развиваться. Для этого большую языковую модель нужно снабдить "органами чувств", способными обрабатывать окружающую действительность, и разрешить ей расширять и изменять собственные коэффициенты весов. Именно об этом размышлял Илья Суцкевер в своём докладе. И именно это мы сейчас наблюдаем, когда говорим уже не о LLM-моделях, а об ИИ-агентах. Похоже, именно это сейчас является основной движущей силой и основным направлением развития искусственного интеллекта.

Приходит чебурашка в магазин
- У вас есть липисины?
Продавец: нету
На следующее утро приходит опять чебурашка
- У вас есть липисины?
Продавец раздраженно: нет
На следующее утро опять пришел чебурашка
- У вас есть липисины?
Продавец: НЕТУ НЕТУ ТЫ ПОНЯЛ ЕЩЕ РАЗ СПРОСИШЬ ПРО СВОИ ЛИПИСИНЫ Я ТЕБЯ
НА ГВОЗДЬ ПОВЕШУ!!!!!!!!!!!
На следуещее утро приходит опять чебурашка
- У вас есть гвозди?
Продавец: Нету
- А липисины?

Существует ли Бог? Это вопрос особого рода, поскольку в нём неопределён сам объект. У нас нет точного определения, что такое Бог. Поэтому, задавая этот вопрос, мы надеемся получить ответ на то, что представляет собой Бог. Однако можно сформулировать более общий и упрощённый вопрос: является ли наша система знаний самодостаточной, или для её описания необходимо что-то, находящееся за пределами нашего понимания?

На этот вопрос уже существует ответ. В 1931 году Курт Гёдель сформулировал первую и вторую теоремы о неполноте. Первая теорема Гёделя о неполноте гласит, что в непротиворечивой формальной системе существуют истинные утверждения, которые невозможно доказать внутри этой системы. Вторая теорема о неполноте утверждает, что для описания любой формальной системы недостаточно её собственных терминов.

Таким образом, теоремы Гёделя уже отвечают на вопрос о существовании Бога: да, Бог существует. Без Бога наша система знаний неполна.

Но теперь возникает уточнение: где он существует? Согласно Гёделю, Бог существует не в нашей реальности — или, точнее, не только в ней.