Vienna calling (Вена зовет) V

У нас тут после матокалипсиса в чате продолжают хоронить человечество, поэтому сегодня пост про проблему подробнее.

Человечество прям сейчас столкнулось с неожиданной проблемой. Думали, что если ИИ возьмёт на себя всю рутину — например, рисовать картинки, писать литературу, снимать фильмы и кодить — люди с радостью станут курьерами, грузчиками и менеджерами ИИ. Может, даже, каждый будет вести блог.

Уже видно, что утопия немного не сбылась )

Главная проблема в том, что ИИ уничтожает интеллектуальное сообщество. У нас тут эссе про это (мысленный эксперимент, не численная научная работа), разбираем.

— Сначала там мрачно: профессиональное общество деградировало. Специалисты перестали обсуждать фундаментальные вещи: все разговоры свелись к тому, как правильно писать промпты. Люди не учатся глубоко и систематически мыслить, потому что машины теперь думают за нас.
— Что ещё страшнее, исчез смысл вносить вклад в общее дело. Зачем писать обучающую статью со сложным решением проблемы? Её никто не прочитает — ну, кроме ИИ. А он сожрёт и выдаст ваше решение другому человеку, даже не упомянув вас. У спеца остается только личный сад, но больше не надо идти на рынок, чтобы обмениваться идеями с другими людьми. Зрители пропали.
— Та же математика — это нифига не гении-одиночки. Там нужна общая база знаний и мотивация. Мотивация бывает внутренней (потому что самому интересно) и внешней (чтобы принести пользу другим, получить признание, славу или уважение коллег). Внутренняя мотивация — просто эмоция, а эмоции быстро угасают. Нужна ещё внешняя мотивация — зрители, сообщество, тщеславие. Вы публикуете работу, кто-то опирается на неё, цитирует вас, благодарит — это подтверждает, что вы делаете что-то полезное, и дает силы работать дальше. Любому человеку нужно, чтобы его труд был кому-то нужен.
— Сейчас есть области, где ИИ лучше людей. Уже точно лучше доказывает теоремы, местами лучше пишет научные статьи и учебники (привет, эксперимент Гарварда), и вклад человека становится излишним. Нет смысла писать книгу, если нейросеть напишет её лучше.

В целом — проблему подняли правильную, но почему-то экстраполируют общество линейно. Во-первых, ещё долго верхние проценты специалистов любой профессии будут вытеснять всех остальных, усиливая себя через ИИ. Во-вторых, мы, земляне, можем создавать новые типы сообществ и искать другую мотивацию.

Тем не менее, пара научных работ в поддержку есть.

Вот препринт про то, что ИИ делает с опенсорсом. Софт пишут маленькие команды, выкладывают свой труд бесплатно, получают взамен репутацию, внимание к себе, предложения о работе, контракты на консультации и иногда пожертвования. ИИ-агенты всего этого не делают и вообще бездушные ублюдки.

В краткосрочной перспективе все в выигрыше. Поначалу качество и количество софта растут. В долгосрочной перспективе — коллапс. Порог качества для публикации возрастет, разнообразие программ сократится, а качество кода упадёт. Люди будут получать меньше пользы от экосистемы.

Предлагают заставить ИИ донатить при поиске и славить создателей своей обучающей выборки.

Тут прикол — если дать человеку ИИ, а потом отобрать, у него люто падает мотивация и растёт скука. В процессе ещё выяснилось, что если человек работает с ИИ постоянно, депривации нет, но скука всё равно медленно растет.

ИИ делает учёных успешнее, а науку — однообразнее. Если ученый начинает использовать нейросети в своей работе, он становится супергероем: пишет в 3 раза больше, на него ссылаются в 5 раз чаще, становится начальником лаборатории на полтора года быстрее остальных. Но! Из-за того, что учёные с ИИ перестают лезть в неизведанные дебри (где данных пока нет, и их ещё надо получать) и толпой идут изучать то, что уже и так хорошо изучено — потому что там как раз легко применять ИИ — разнообразие тем падает на 5%. Учёные на 22% реже спорят друг с другом и вообще разговаривают.

Тут про коллапс знаний:
— ИИ выдает усреднённые ответы.
— Люди становятся ленивыми. Зачем читать три разные книги или проводить исследование, если ИИ выдаст ответ за 2 секунды?
— Человечество перестанёт генерировать уникальные идеи. ИИ будет выдавать усредненные ответы, люди будут их читать, потом ИИ будет заново обучаться на этих же усредненных ответах.
— Если сделать доступ к ИИ-ответам всего на 20% проще/дешевле, чем самостоятельный поиск информации, люди начинают верить в вещи, которые в 2,3 раза дальше от реальной истины.

Самое главное — БЕЗ ПАНИКИ!

--
Вступайте в ряды Фурье! | Лучшие посты
Масло сливочное, 72%. Скоро загрузится!

Совет женатым мужчинам: запомни, ты в доме царь. Каблук - это твоя корона.

И слово дня сегодня: "Peace-дизель".

Работа Principal AI Engineer сегодня - то, чего ни один фантаст не предвидел 😊
* Флаги «уровень на стандартном месте» тоже ничего не дали: 0.6859 / 0.7003 / 0.6025 против эталона 0.6856 / 0.6997 / 0.6023. Holdout +0.0002, это шум: сеть уже видит форму стакана сама.
* Ветка фильтрации входов закрыта полностью: аудит, дрейф, важность колонок, lasso, гейт, выбрасывание колонок и флаги моды. Все 112 колонок рабочие, мусора нет. Записано в CLAUDE.md.
* Лучший сабмит по-прежнему WSD-e6: public 0.66475, 49-е место. GPU свободен.

✻ Sautéed for 14s · done Sunday 11:49 PM

❯ братка, давай за двор и за район, поищи еще варинаты, я уже все возможное перебрал, мне нужна эта строчка в резюме
...

Олигофрены на марше, https://t.me/apwagner из ЕС планируют конфискацию накоплений граждан, чтобы распилить их с украинцами и прочими нахлебниками. Одна радость - эти дебилов на уровне отдельных стран давно уже никто не слушает.

Как говорят психиатры: "Когда ты один - это нормально, плохо когда тебя двое, и совсем абзац - если больше двух".
Навеяло тем, что я сейчас один в офисе.

А сегодня будем работать под импортозамещенный https://music.yandex.com/album/35023616?utm_medium=copy_link&ref_id=e263393f-b6f4-46a7-b743-939d9a1a44c8

Детский сад, никакой https://t.me/disruptors_official и близко не было, пакуют все равно кожаные, а железяка только проверяла качество и наличие наклейки со штрихкодом, даже без проверки его читаемости. Но зумеры пищат :-)