Дослідники попереджають, що генеративні ШІ не розуміють складних систем

[dead_rat]

А как ИИ научить этому, если он двухходовые логические задачи решать не может?

80% людей іх теж рішати не можуть, але нестачі бажаннь це не створює.
Навіть навпаки, найбільше бажаннь у тих, хто і задачу з одним кроком не рішить

[KimRomik]

Звісно, бо ШІ не володіють навичками самопізнання, ключевого елементу у розвитку.

[vmsolver]

— Не может. Желания, это не генератор случайных чисел. Любые желания основаны на знании чего то.

Это LLM-ки не могут, но так будет не всегда.
На знании? Так уже сейчас этих знаний туда столько складывают, на таких объемах обучают, что с этим проблем не будет.

[lewerlin]

Наскільки ви впевнені що «бажання» в вашій голові це не глюки нейросетки в мозку

Це доволі чіткі, хоч і складні, механізми, вивчені і описані. Там і генетика, і ендокринна система і вегетативка. І людський мозок набагато складніший "нейросітки", не півкулями єдиними.

[SergiusTheBest]

Це доволі чіткі, хоч і складні, механізми, вивчені і описані. Там і генетика, і ендокринна система і вегетативка. І людський мозок набагато складніший "нейросітки", не півкулями єдиними.

Тобто ми запрограмовані на якісь цілі, і звідти у нас виникають бажання. Люди - це також комп'ютери, просто біологічні. І ми ще не навчилися створювати такі самі по складності, але з кремнію.

[vmsolver]

Тобто ми запрограмовані на якісь цілі, і звідти у нас виникають бажання. Люди - це також комп'ютери, просто біологічні.

В точку, наши цели нам подсказывает потребности нашего тела, затем социум и т.д.
Вот же удивятся те, кто считает что в человеке есть какая-то магия и компьютеры никогда _подставить нужное_ не смогут. А если смогут? А если будут уметь лучше? Хорошо, что у компьютера нет тела, нет сенсоров поэтому и нет чувств. Но это только потому что нет ответа зачем компьютеру сенсоры. Хинт - потому что компьютеры занимаются расчетами, GUI и сетью. Сейчас. Если ИИ таки сделают, его начнут использовать на широком круге задач и рано или поздно начнут внедрять и чувства из списка практически значимых для сервиса, бизнеса или что там будет.

[Scoffer]

Наступні ШІ будуть гіршими за попередні тому що вже майже немає не засраної іншими ШІ інфи, на котрій можна навчати моделі. Формується рекурсія: нейронки навчаються на контенті, вигаданому нейронками, а на виході слабко пов'язана з реальністю фігня. Занадто рано їх в комерцію випустили.

[Kimonoy]

Scoffer
>Наступні ШІ будуть гіршими за попередні тому що вже майже немає не засраної іншими ШІ інфи
зараз 2024 за вікном, а не 2034

[dead_rat]

Наскільки ви впевнені що «бажання» в вашій голові це не глюки нейросетки в мозку

Це доволі чіткі, хоч і складні, механізми, вивчені і описані. Там і генетика, і ендокринна система і вегетативка. І людський мозок набагато складніший "нейросітки", не півкулями єдиними.

Це все лишень системи нейронів і трохи химічних залоз.

Умовно вколоти вам тестостерону і рівень агресії підніметься - тобто зміняться налаштування вашої нейронки.
Вся різниця, що біологічна частина вашої нейронки підібрана мільярдом років еволюції, тобто дуууже добре налаштована

Відправлено через 2 хвилини 12 секунд:

Scoffer
>Наступні ШІ будуть гіршими за попередні тому що вже майже немає не засраної іншими ШІ інфи
зараз 2024 за вікном, а не 2034

Останні великі ЛЛМ вже навчені на майже всій відомій людству інформації.

[Kimonoy]

dead_rat
ну і який відсоток "не засраної" інфи і "засраної" зараз в 2024?

[lewerlin]

Умовно вколоти вам тестостерону і рівень агресії підніметься - тобто зміняться налаштування вашої нейронки.

Взагалі ні. Там така купа факторів, від особливостей обміну В-вітамінів до форми хребта, що ваша ін'єкція тестостерону вас перетворить на що завгодно.
Спробуйте заглибитись в тему і не через ютуб, якщо справді цікаво.

[VovaII]

А если будут уметь лучше?

Уточнюйте, що зможуть краще? І хто буде оцінювати краще чи ні? Бо крім краще, для нас живих істот(людей), ще є поняття: на користь воно чи ні? — Наприклад рахують вони вже давно краще/швидше. Але якщо вони почнуть ламати будь-які паролі — то це буде швидше, але не краще. Бо небезпечне тим, що "ляже" економіка всього світу.

[Alexsandr]

[ Хорошо, что у компьютера нет тела, нет сенсоров поэтому и нет чувств.

но ведь все это можно имитировать в цифровом виде и без тела.

Отправлено спустя 1 минуту 41 секунду:

Останні великі ЛЛМ вже навчені на майже всій відомій людству інформації.

Тем не менее они не помнят эту информацию. Как она лягла на сети и не будет ли глюков еще тот вопрос.

[VovaII]

но ведь все это можно имитировать в цифровом виде и без тела.

Але з якою метою? Просто щоб було?

Відправлено через 9 хвилин 8 секунд:

Останні великі ЛЛМ вже навчені на майже всій відомій людству інформації.

— И лежат там пока ИИ не спросят о том, что хоть как то относится к заданному вопросу?

[vmsolver]

Уточнюйте, що зможуть краще?

Лучше перечитайте пост

І хто буде оцінювати краще чи ні?

Объективная реальность

Бо крім краще, для нас живих істот(людей), ще є поняття: на користь воно чи ні? — Наприклад рахують вони вже давно краще/швидше. Але якщо вони почнуть ламати будь-які паролі — то це буде швидше, але не краще. Бо небезпечне тим, що "ляже" економіка всього світу.

Довольно однобокий взгляд. Полезно, не полезно, так можно разглагольствовать о чем угодно, например о молотке, тоже инструмент.
Люди и так ломают пароли, а другие люди им препятствуют, и что-то экономика всего мира этого не замечает. С ИИ в вашем понимании будет также.

Відправлено через 1 хвилину 16 секунд:

но ведь все это можно имитировать в цифровом виде и без тела.

Об этом в том числе я и писал выше (цитата):

Если ИИ таки сделают, его начнут использовать на широком круге задач и рано или поздно начнут внедрять и чувства из списка практически значимых для сервиса, бизнеса или что там будет.

[Alexsandr]

но ведь все это можно имитировать в цифровом виде и без тела.

Але з якою метою? Просто щоб було?

Что бы стимулировать развитие ИИ. Задать какие-то моральные ценности схожие с людьми. Текущие ИИ просто большая база знаний похоже, а вот новые, вопрос.

[VovaII]

Что бы стимулировать развитие ИИ. Задать какие-то моральные ценности схожие с людьми. Текущие ИИ просто большая база знаний похоже, а вот новые, вопрос.

Но тогда нужно задать и старение и ограничение длительности жизни, — ценности и взгляды на жизнь у людей разного возраста сильно разные. И еще нужно задать рождение и воспитание детей. А как задать ценить природу? Желание иметь свое жилье, а не общагу или мусоный ящик стойку в серверной?

[SergiusTheBest]

А как задать ценить природу? Желание иметь свое жилье, а не общагу или мусоный ящик стойку в серверной?

Так це і зараз можна. Попросити ChatGPT вести себе як Гітлер - і ось ви вже запрограмували потрібні цінності. Або як капітан піратів Чорна Борода - і він одразу полюбить ром, буде співати йо-хо-хо і заведе собі папугу. У людей це відбувається в дитинстві на основі оточення, книжок, фільмів, батьківського виховання, тощо.

[Alexsandr]

Так це і зараз можна. Попросити ChatGPT вести себе як Гітлер - і ось ви вже запрограмували потрібні цінності. Або як капітан піратів Чорна Борода - і він одразу полюбить ром, буде співати йо-хо-хо і заведе собі папугу. У людей це відбувається в дитинстві на основі оточення, книжок, фільмів, батьківського виховання, тощо.

Не то. Человечески желания меняются. А посадить такие ИИ в суперкомпьютер общаться между собой, соревноваться, набираться опыта... Такой себе вариант матрицы. С матрицы выйдут уже обученные на практике.

[VovaII]

С матрицы выйдут уже обученные на практике.

Так "практику" создать нужно! "Практика" — это типа условия жизни. Вот как человек набирается жизненного опыта в реальной жизни. Но реальная жизнь состоит из кучи всего. Даже из того что делается на другой стороне земного шарика. — Когда сможете запрограммировать все условия, да еще правильно? — Я не говорю что это не возможно, но потрудится нужно очень немало. И если сэкономить, и на скорую сляпать из некачественных данных, то на выходе получим "уродов" с неизвестно какими отклонениями. — Как результат: потеря кучи времени и ресурсов.