У меня похожие ощущения отд программирования, потому что машины иногда прыгают очень хорошо и когда надо именно прыгать - они делают для меня чудо. Для примера, таким чудом является способность перелопатить историю Гит на полгода назад и найти день и автора, которые сломали фичу.
Но боже, какие у них проблемы в поисках реально хороших архитектурных решений или хотя бы в стабильности качества кода.
------ Нейронки в математике
Тао рассказал, что знает как минимум о трех попытках натравить фронтирные модели на весь каталог Эрдёша одновременно. Модели выдают отдельные наблюдения или находят, что задача уже решена в литературе, но новых полностью автономных решений больше нет. Был короткий период, когда ИИ действительно решал задачи с нуля — но он закончился. Теперь задачи закрываются коллективно: один человек запрашивает стратегию у одной модели, другой использует вторую для критики, третий — для литературного обзора. При систематических прогонах процент успеха составляет 1–2%, просто за счет масштаба находятся отдельные победы — и именно их транслируют в соцсетях.
Для описания происходящего Тао предложил метафору. Представьте горный хребет в полной темноте: вокруг скальные уступы разной высоты — один по колено, другой в рост, третий в пять этажей, а дальше — отвесные скалы до неба. Математики зажигают свечи, рисуют карты, нащупывают тропинки наверх. ИИ работает иначе: это прыгающие машины, способные взлететь на два метра — выше, чем любой человек. Их выпустили в горы, и они скачут во все стороны. Был захватывающий период, когда они перемахнули через все низкие уступы. Но главная проблема осталась: машины не умеют закрепляться на промежуточной высоте — либо допрыгивают до верха, либо падают. Именно неспособность к частичному прогрессу Тао считает ключевым ограничением нынешних моделей.
----
https://habr.com/ru/news/1013418/Ps
--- При этом Тао признал, что его собственный прогноз 2023 года сбылся: к 2026 году ИИ действительно стал надежным соавтором.
Тут согласен, но это достигается за счет навыков.
