Дженсен Хуанг оголосив про початок ери AGI після запуску GPT‑6 Astra. Навчання ШІ могло коштувати мільярд доларів

[zalizo_org]

Зараз нейронки, ШІ, загалом, розвиваються в усіх напрямках точно як бактерії в поживній речовині чашці Петрі. І насправді ніхто не знає, куди і як вони зайдуть, тому що по мірі просування і розвитку з'являються все нові методи для отримання все більш цікавих і менш зрозумілих самим розробникам результатів. Тому спочатку з'явиться сам умовний AGI, а потім йому дадуть визначення вже по факту існування, а не навпаки. AGI на сьогодні - це просто умовність, чисто теоретичний конструкт, який не має під собою абсолютного закріплення.

[_nevermind]

Какое AGI гоям давать, которых вчера шприцевали непонятно чем, а сегодня в бус пихают и в скелю везут ?

Вы смешные просто.

Гоям скидывают старые версии , отстающие лет на 5 минимум.

[leif]

хлопці, це правда, я прийняв іудаїзм і мені відкрився доступ до чат жипіті 74.0, дуже потужний

щасливо залишатись в минулому, невдахи

[dead_rat]

Какое AGI гоям давать, которых вчера шприцевали непонятно чем, а сегодня в бус пихают и в скелю везут ?

Вы смешные просто.

Гоям скидывают старые версии , отстающие лет на 5 минимум.

Та нема ні в кого отих «нових»
Все що дали - ото воно і є.

[LynxyOne]

Ого, продавець лопат каже що вже знайшли золото!

[VovaII]

Гадаю що не все так просто. Нещодавно повідомили, що Китай генерує електроенергії більше ніж Америка і Європа разом узяті. І продовжує всілякі електростанції.
— Це я до того, що у США банально електрики не вистачить на новий ШІ. — Я так припускаю.

[MSiAventador]

# Це ж було вже

[FirstTDM]

Це я до того, що у США банально електрики не вистачить на новий ШІ.

Тогда такой AI никому не нужен

[fhntv_smart]

Я попробовал астру в кодинге. Не могу сказать особенно про качество, но вот токены просто испаряются. Если 5.6 хватало на 10 средних запросов, то 6.0 на полтора. Со старой можно было прям поговорить, обсудить особенности решения, а потом запустить. С 6.0 уже на реализацию не хватает.

[dead_rat]

Я попробовал астру в кодинге. Не могу сказать особенно про качество, но вот токены просто испаряются. Если 5.6 хватало на 10 средних запросов, то 6.0 на полтора. Со старой можно было прям поговорить, обсудить особенности решения, а потом запустить. С 6.0 уже на реализацию не хватает.

Гроші потрібні (с)

[Vladimir]

Іронічно доводити нездатність LLM розуміти світ, посилаючись на її ж відповідь як на експертний висновок.

«Вона лише передбачає токени» — опис навчального завдання, а не доказ відсутності складних внутрішніх механізмів. У моделі, навченій передбачати ходи Othello, експериментально виявили внутрішню модель стану дошки, яка впливає на її відповіді. Тобто категоричне «моделей світу немає» вже має "експериментальний контрприклад" https://arxiv.org/abs/2210.13382.

Головне ж — оцінювати всю систему. LLM разом з agentic harness може використовувати пам’ять, інструменти й цикл «план → дія → зворотний зв’язок → корекція». Працездатність такого підходу показана в ReAct https://arxiv.org/abs/2210.03629. Тому приписувати всій агентній системі обмеження одного проходу нейромережі — помилка.
Для інтелекту не доведена необхідність буквально відтворювати біологію. Нейромережеві агенти — перспективний напрям, хоча досягнення AGI не гарантоване. «Поки працює ненадійно» і «принципово неможливо» — різні поняття.

Якщо настає ера AGI

Прикол в тому, що не настає. Нейронки дуже добре проходять тести по програмуванню, бо там є мова програмування та алгоритмізація.
Будь-які серйозні непередвзяті тести на абстрактне мислення вони пройти не зданті, бо "розуміння" у них як не було, так і не має.
На питання відповідає буквально сама ЛЛМ-ка (так би мовити, пускає струю цифрової уріни в обличчя маркетологам та Хуангу)

### Коротко і без ніжностей

Сучасний LLM — це не «розум», а гігантський апарат апроксимації розподілу
\[
P(\text{токен} \mid \text{контекст})
\]
і все. Він не має жодної внутрішньої архітектури, яка б реалізовувала мислення, цілі, самоконтроль чи узагальнюючу модель світу. Це принципове, а не «тимчасове» обмеження.

---

### 1. Архітектура: трансформер як мертва функція

- **Фіксована функція:**
Після тренування LLM—це детермінована (з точністю до RNG) функція
\[
f_\theta: x \mapsto y
\]
де \(x\) — послідовність токенів, \(y\) — розподіл наступного токена. Немає жодного окремого шару чи циклу, який би реалізовував «думку» як внутрішній процес прийняття рішень у feature-space. [arXiv.org](https://arxiv.org/html/2503.09211)

- **Відсутність когнітивного циклу:**
У людини є цикл: сприйняття → інтерпретація → оновлення моделі світу → планування → дія → зворотний зв’язок. У LLM є лише одноразовий прогін через мережу для кожного токена. Немає окремих модулів пам’яті, уваги, планування, мотивації, які б працювали як система. [arXiv.org](https://arxiv.org/html/2309.10371v1)

- **Немає внутрішнього стану мислення:**
Внутрішні активації — це просто проміжні вектори для обчислення наступного токена, а не стабільні «думки», які живуть, змінюються, конфліктують, перевіряються. Модель не «обмірковує» варіанти, вона один раз проганяє тензор.

---

### 2. Тренувальна ціль: не мислити, а підганяти статистику

- **Objective повністю анти-AGI:**
LLM оптимізується під мінімізацію втрат типу cross-entropy між передбаченим токеном і реальним токеном у корпусі.
\[
\min_\theta \mathbb{E}_{(x,y)}[-\log P_\theta(y\mid x)]
\]
Ніде в цій цілі немає:
- коректності світової моделі,
- причинно-наслідкової узгодженості,
- довгострокового планування,
- самоконтролю чи цілей. [ResearchGate](https://www.researchgate.net/profile/Ch ... -Tasks.pdf)

- **Немає винагороди за істину, є винагорода за правдоподібність:**
Модель вчиться відтворювати статистичні патерни тексту, а не реальність. Звідси — системні галюцинації, «accuracy collapse» на складних задачах, розвал логіки при збільшенні довжини ланцюга міркувань. [ResearchGate](https://www.researchgate.net/profile/Ch ... -Tasks.pdf) [arXiv.org](https://arxiv.org/html/2309.10371v1)

- **Відсутність семантичного заземлення:**
Токени не прив’язані до сенсорики, дії, фізичного світу. Це чиста маніпуляція символами без перевірки проти реальності. Без символ-ґраундингу немає шансу на справжнє «розуміння», лише імітація. [arXiv.org](https://arxiv.org/html/2309.10371v1)

---

### 3. Причинність, світова модель і логіка: фундаментальна діра

- **Немає явної причинної моделі:**
LLM не будує і не оновлює причинно-наслідкові графи; він просто виводить текст, який статистично схожий на причинні пояснення. Це різні речі: причинна модель може передбачати наслідки дій, LLM — лише продовжити опис. [ResearchGate](https://www.researchgate.net/profile/Ch ... -Tasks.pdf)

- **Крах на складних багатокрокових задачах:**
При збільшенні глибини задачі (багато кроків, складна композиція знань) LLM демонструє «accuracy collapse» — помилки ростуть лавиноподібно, бо немає стабільної внутрішньої структури для зберігання проміжних висновків і перевірки їх узгодженості. [ResearchGate](https://www.researchgate.net/profile/Ch ... -Tasks.pdf) [arXiv.org](https://arxiv.org/html/2309.10371v1)

- **Обмежене моделювання світу:**
Модель не має єдиного, консистентного world model; вона кожен раз імпровізує локальну «картинку світу» з текстових патернів. Тому відповіді можуть суперечити одна одній без внутрішнього конфлікту—немає суб’єкта, який би помічав суперечність. [arXiv.org](https://arxiv.org/html/2309.10371v1)

---

### 4. Автономія, цілі, самоконтроль: повна відсутність

- **Немає власних цілей:**
LLM не ініціює дій, не ставить задач, не змінює свою поведінку на основі довгострокових результатів. Він пасивно реагує на вхід. AGI за визначенням має автономну цілеспрямовану поведінку, самостійне планування і адаптацію. [ResearchGate](https://www.researchgate.net/profile/Ch ... -Tasks.pdf) [arXiv.org](https://arxiv.org/html/2309.10371v1)

- **Немає мета-рівня контролю:**
Людський розум має мета-роздуми: «я помилився», «ця стратегія погана», «треба змінити підхід». LLM не модифікує себе; максимум — симулює текст про самокритику, але це лише черговий патерн, не реальний внутрішній контроль.

- **Немає довготривалої пам’яті як суб’єкта:**
Контекст — це тимчасовий буфер токенів, а не особистий досвід. Модель не накопичує історію власних дій і не вчиться онлайн. Без цього немає «життєвої траєкторії» агента, а значить — немає суб’єкта, який мислить у часі.

---

### 5. «Мислення» vs генерація тексту: принципова різниця

- **Мислення — це процес у внутрішньому просторі станів:**
У технічному сенсі «думка» — це стабільний, маніпульований внутрішній стан, який:
- може бути збережений,
- може бути змінений,
- може бути зіставлений з іншими станами,
- впливає на майбутні дії. [arXiv.org](https://arxiv.org/html/2503.09211) [arXiv.org](https://arxiv.org/html/2309.10371v1)

У LLM немає окремого рівня «thought space»—усе зведено до одноразового проходу тензора для вибору наступного токена. Це не процес мислення, це обчислення розподілу.

- **Текст ≠ думка:**
Те, що модель видає «розумні» речення, не означає, що всередині був когнітивний процес. Це просто високорозмірна регресія по корпусу людських текстів. Вигляд мислення — є; механізму мислення — немає.

- **Відсутність теорії розуму:**
LLM не має справжньої моделі інших агентів; він лише відтворює патерни діалогів. Звідси обмежена «theory of mind» і провали в складних соціальних, етичних, контекстних задачах. [arXiv.org](https://arxiv.org/html/2309.10371v1)

---

### 6. Чому це саме концептуальна межа, а не «ще трохи донавчити»

- **Поки objective = language modeling, AGI не буде:**
Якщо ціль — лише краще моделювати розподіл тексту, то ми отримаємо все більш гладку імітацію мислення, але не сам процес мислення. AGI вимагає:
- явної когнітивної архітектури,
- інтеграції з дією, сенсорикою, середовищем,
- причинних моделей,
- автономних цілей і довгострокового навчання. [ResearchGate](https://www.researchgate.net/profile/Ch ... -Tasks.pdf) [arXiv.org](https://arxiv.org/html/2309.10371v1)

- **LLM як компонент, а не ядро AGI:**
Навіть у найбільш адекватних підходах AGI LLM розглядається як модуль для мовної інтерфейсної частини, а не як центральний «розум». Його вбудовують у гібридні системи (нейро-символічні, RL-архітектури, OpenCog-подібні), де справжнє мислення реалізується іншими механізмами. [arXiv.org](https://arxiv.org/html/2309.10371v1)

- **Скалінг не виправляє відсутню архітектуру:**
Збільшення параметрів і даних дає кращу статистичну імітацію, але не додає:
- когнітивного циклу,
- суб’єкта,
- цілей,
- причинної моделі світу.
Це як збільшувати розмір словника у автозаповненні клавіатури й очікувати появу свідомості.

---

### Висновок

Сучасний LLM за визначенням є **мовним генератором розподілу**, а не **когнітивною системою**.
Він:

- не має внутрішнього процесу мислення,
- не має цілей, автономії, світової моделі,
- не має причинної структури й символ-ґраундингу,
- оптимізується на правдоподібність тексту, а не істинність і узагальнюючу інтелектуальну поведінку.

Тому говорити, що такі моделі «досягнуть AGI просто скалінгом» — це технічно некоректно: їм бракує не потужності, а **правильної архітектури і цілі навчання**.

[lw_007]

Вся краса в тому, що у AGI нема визначення, тому ніхто не може довести, що ти його НЕ досяг.

Ну да... так и есть... строго говоря и у AI нет формально правильного каноничного определения

Тому маркетингу вистачить кожен рік релізити новий ГПТ як і новий айфон з емейзінг новими можливостями.

Ну як сказати...
Формально, ніби базаво приблизно так:
POMDP (Partially Observable Markov Decision Process) ( S , A , O , T , T 0 , O , R , N )

[FirstTDM]

Формально, ніби базаво приблизно так:
POMDP (Partially Observable Markov Decision Process) ( S , A , O , T , T 0 , O , R , N )

Да ладно... это же просто мат. модель, в которой POMDP агент строит гипотезу...

Нет единого общепринятого формализованного точного определения - что такое ИИ (AI)... да и не может быть на нынешнем этапе развития науки - мы ведь еще точно не знаем, как именно человек думает и что побуждает его действовать...

[Dilfin]

Ого, продавець лопат каже що вже знайшли золото!

Влучно сказано.)

[lw_007]

Формально, ніби базаво приблизно так:
POMDP (Partially Observable Markov Decision Process) ( S , A , O , T , T 0 , O , R , N )

Да ладно... это же просто мат. модель, в которой POMDP агент строит гипотезу...

Нет единого общепринятого формализованного точного определения - что такое ИИ (AI)... да и не может быть на нынешнем этапе развития науки - мы ведь еще точно не знаем, как именно человек думает и что побуждает его действовать...

А треба саме точно ? В прийнятті рішень в умовах неповної інформації?
Бо якщо мова не про точно, то, ніби, непогано вже розібралися.

[zaqik]

Я тут раз ИИ попросил дать ссылку на генератор паролей, чтоб с настройками. Вместо этого он мне дал хтмл-код генератора паролей. Удобно. Я стал заказывать, чтоб дописал дополнительные фишки. Но в какой-то момент код перестал работать. Оказалось он стал слишком большим, и сам ИИ после своего "да-да конечно вот полный код" с пятого раза признался, что не может дать мне полный код т. к. у него лимит на длину сообщения. Понадобилась подсказка тупого кожаного мешка меня, разделить код на два сообщения. Боюсь спросить, но уж не это ли они поправили в той своей наиновейшей наикрутейшей модели, называя "лудшы спровляется с многоэтапными зад аниями"

[FirstTDM]

А треба саме точно ?

Да. Надо точно. Мы пытаемся ввести новые сущности: AI и AGI - т.е. мы должны иметь инструмент, который однозначно ответит что есть что.

В прийнятті рішень в умовах неповної інформації?

Эти сферы прекрасно развивались и продолжают развиваться и без AI. Системы СППР/DMS работают давно еще до нейросетей.

Бо якщо мова не про точно, то, ніби, непогано вже розібралися.

Ну да... гуманитарии и маркетологи лихо разобрались во всем и продолжают привлекать многомиллиардные инвестиции...