Соберу в одном месте свои мысли по поводу ИИ, они же нейросети.
Как программиста по образованию, образу жизни и работе, меня корежит сам термин «искусственный интеллект». Конечно же, это ни разу ни интеллект.
Для начала, мы до сих пор не знаем, что такое «интеллект». Мы даже до сих пор не сошлись во мнении, что такое человек. Со времен «двуного, лишенного перьев» на каждого Платона находится свой Диоген.
Но, даже в рамках субъективного восприятия этих понятий, нейросети ни разу и ни «человек», и ни «интеллект». Самое интересное, что даже их создатели вроде как позиционируют свои творения как поисковики более высокого уровня, чем привычные яндексы и гуглы. Самое главное, он помнит предыдущий запрос, и предыдущие запросы, и вчерашние запросы. И пытаются угадать контекст. Это прорыв, без шуток.
С точки зрения программиста так называемый ИИ – это сильно разветвленный IF..ELSE, помноженный на огромную вычислительную мощность. Мы страдаем телеологическим когнитивным искажением по поводу нейросетей из-за массово навязываемым с помощью различных медиа очеловечиванием, одушевлением программы. Много фильмов и сериалов, где роботы (андроиды) не просто похожи на людей, а лучше, чем люди! Мы говорит «спасибо» программе. Люди разговаривают с Алисой, как с живым человеком, гораздо чаще, чем с чайником. Но ведь между чайником и роботом нет разницы с точки зрения «интеллекта»! И там, и там, это просто искусственный объект, созданный для определенных задач.
Нейросеть рисует и пишет книги, не понимая сути создаваемого. Она не знает понятий тепло, холодно, любовь, война. Она понимает контекст этих слов, и понимает ожидание вопрошающего. Но даже умея определять по картинке предмет, и зная (текстом) его функции, она не понимает самой сути предмета.
Опять же, были исследования, что мозг обязательно должен быть «овеществлен», что без тела и тактильных ощущений, без сигналов прочих органов чувств, он невозможен.
Это чистой воды «китайская комната» - машина оперирует понятиями, не осознавая их сути.
Да, творчество машины в текстах, рисовании, музыки - выше среднего. Но именно потому, что нейросеть не создает, а компилирует из того огромного множества, что создали люди. Причем, ориентируясь на лучшее, я так понимаю.
Я был в огромном восторге, когда начал пользоваться Suno (генерация музыки). Но быстро понял, что все ее песни похожи на самих себя, и на чужих исполнителей. А чего стоит ИИ-альбом Скриптонита (кажется) – когда нейросеть написала тексты и музыку, не уступающую оригиналу, и фанаты не смогли отличить оригинал от подделки. Значит ли это, что Скриптонит вторичен? Только в той степени, в которой вторичны все люди, ведь мы в любом случае опираемся на прочитанное, прослушанное, увиденное. Может ли машина сотворить что-то принципиально новое? Именно сознательно сотворить, а не случайно скомпилировать из набора слов или нот? Полагаю, что нет.
Есть много серьёзных статей по поводу нейросетей. Одна из самых больших проблем – проблема доверия. Нейросети массово применяют в жизни, при этом, они часто ошибаются, «врут», если бы можно было применить этот термин.
Я позавчера смотрел свежий фильм «В списках не значился». По ходу фильма один персонаж пропадает. Я подумал, что смотрел невнимательно, и решил спросить нейросеть, куда он пропал. В итоге я только после примерно десяти уточнений доказал ей, что этот персонаж вообще есть в этом фильме. Нейросеть постоянно соглашалась со мной, но снова и снова выдавала неверную информацию.
Самое очевидное применение нейросетей – обработка больших массивов данных. Собственно, поиск, как вариант. Например, нейросети уже используются в суде (в Америке прецедентное право, так что тут опять поиск) или в медицине (нейросеть лучше будет помнить все варианты медицинских случаев, чем человек).
Исследования уже показывают, что люди, которые массово применяют нейросети, не помнят потом даже приблизительно текстов, которые пишут за них – это проскакивает мимо мозга. Мозг любит лениться и не любит развиваться – ну вот, горка для желающих отупеть в деле. Антропологи и так жалуются, что мозги современных людей становятся легче по сравнению с предыдущими поколениями.
Конечно, за нейросетями будущее – они думают очень быстро. Только надо четко понимать, где, как и зачем их надо применять.
Проблема технологической сингулярности на данный момент тоже выглядит немного вторично – мы опять приписываем программе свойства разума – в первую очередь, наличие целеполагания. Да, есть опасения, что целеполагание пропишет искусственно безумный хакер. Но за пределами сознательного вредительства (и нашего понимания терминов «сознание», «разум, «интеллект») – на данный момент нет причин считать, что человечество в опасности из-за развития нейросетей. Нейросети могут быть опасны как инструмент, это да. Но не как самостоятельно оружие.
Главное, понимать – это просто железяка. Невероятно быстрая, оперирующая огромным массивом данных, умеющая находить закономерности и делать выводы. Могущая помочь человечеству сделать следующий шаг в эволюции.
Настолько же крутая, как колесо, хлопок и блюзовая гамма.
