Дослідники Anthropic попереджають про небезпеки неконтрольованого розвитку ШІ. Ризик знищення людства у наступному десятилітті перевищує 10%

[QFlash]

А чого так? Чого всі намагаються один одного знищити? Астероїда бракує? AI все знищить?
Якась незрозуміла позиція.
АI якщо дійсно буде АІ сам по собі не несе нікої небезпеки, а лише ті хто буде його навчати виконувати команди, і хто це?

Відправлено через 2 години 5 хвилин 38 секунд:
Колись розумний професор Мічіо Каку і футуролог розповідав про розвиток AI.
Я мав можливість з ним зустрітись. Це Велика і Потужна Людина.
Є поняття навчання "знизу в верх" є поняття "з веху в низ". Нейронні системи людського мозку працюють за принципом "знизу в верх".
Можливе поєднання цих систем навчання. Людський мозок працює на молекулярному рівні організації матерії.
Чим більше нейронних звязків тим краще. Мозок це об'ємна структура/ Для роботи класики потрібно відводити тепло.
Тому квантові системи найкраще рішення.
До речі генетичні параметри ніхто не відмінив. Квантовий рівень це виключає.

Відправлено через 29 хвилин 31 секунду:
Ніякої загрози не має. Є лише нерозуміння та баязнь втратити накрадене.
Дуже важливо! Поняття знищити одне одного має зникнути - назавжди.

[firestarter256]

Да по хрен, хай делают, я больше заработаю! Была зарплата в 180к, стала 280к всем хорошо

[Afit]

Ніякої загрози не має. Є лише нерозуміння та баязнь втратити накрадене.
Дуже важливо! Поняття знищити одне одного має зникнути - назавжди.

Справа в тому що будь яке машинне рішення не підкріпляється мораллю. Для цифрового пристрою це нічого не означає. Коли машина навчається робити собі подібних і розвиватись за не до кінця зрозумілими алгоритмами, то де гарантія що воно там порахує за потрібне? Звісно все це стане небезпечним коли буде впроваджено скрізь. Особливо в оборонному секторі.
А от теза:

Поняття знищити одне одного має зникнути - назавжди.

мені взагалі не зрозуміла Наче ігнорування цього питання має автоматично прибрати загрозу

[QFlash]

Будь-яка система якка базується на принципах недовіри та знищення, культу та неосвіченості приречена.
Це дуже важливо...
Не в грошах щастя - а в їх кількості. Жартую звісно.
Вибір. Те що робить людину Людиною.
Машина це лише набір команд та алгоритмів.

Відправлено через 5 хвилин 46 секунд:

Справа в тому що будь яке машинне рішення не підкріпляється мораллю.

Машина не має рішення і вибору. Це набір команд.
Квантові системи якщо запрацюють, а вони запрацюють це точно - можливий якийсь примітивний вибір.
Ці системи будуть працювати настільки швидко що тріндєц. Вони зможуть вичисляти положення зміщення квантових частинок в проміжку часу - що презведе до створення машини Часу, але в зміщенні мінус. Майбутнього ніхто не може виміряти - бо воно не визначене.
Також ці системи ключ до енергії синтезу.

[Rucha]

Майбутнього ніхто не може виміряти - бо воно не визначене.

А як же це:

Вони зможуть вичисляти положення зміщення квантових частинок в проміжку часу - що презведе до створення машини Часу, але в зміщенні мінус.

Хіба це не вимір майбутнього?

Також ці системи ключ до енергії синтезу.

Здається хтось забагато дивиться/читає фантастики.

[QFlash]

Щоб змістити точку в просторі в часовому проміжку потрібні колосальні затрати.
Звідки знати яке було положення, координати минулого стану Всесвіту, де точка відліку?
Третій закон термодинаміки?
Ті питання вирішує квантова система.

Відправлено через 1 хвилину 45 секунд:

Здається хтось забагато дивиться/читає фантастики.

Не фантастика. Фантастика це фільми.
Дивись наукові серіали.

Відправлено через 6 хвилин 1 секунду:

Хіба це не вимір майбутнього?

Майбутнього неможливо знати напевне є ймовірність подій.
Ото що дурдом робиться.
Хто винен? Невже всратий АІ?

Відправлено через 17 хвилин 14 секунд:
Rucha
Як визначити положення субатомної частинки та водночас її хвильову функцію?
Або знаємо координату, або хвилю.
Частинки ніби розмазані в просторі. Це дуже важко пояснити. Тільки математичним шляхом.
Суперпозиція та квантова запутаність.
Навіть просунуті математики не знають.
Хтось заважає в пошуку рішення.

Відправлено через 3 хвилини 20 секунд:
Квантові системи якраз побудовані на суперпозиції частинок. Хвильова функція повинна пройти колапс (схлопнутись).

[agsamfisher]

Треба відслідковувати активність таких як Еван Хубінгер або Джейкоб Коксон і, якщо/коли вони почнуть якось несподівано і загадково помирати, тоді можна буде остаточно зрозуміти що людству гайки!!!

[QFlash]

зрозуміти що людству гайки!!!

Ні, не так. Не правильно. Кому потрібні то будуть гайки.

[EvhenS]

Людство вперлося в нанометри, тераватти людство не тягне - токамак обіцяють з 85го року на наступний рік. З напівпровідщників на щось перескочити теж все грибока перспектива, 40 років тому казали двадцять перше сторіччя - тепер взагалі нічого не кажуть про біо і лазерні обчислення, квантові комп'ютери число 21 в 2026му році на множники розкладають.
І от напряму зацікавлені люди на рівному місці хапйпують, а всі заголовки копіпастять і, блін, судячи по шести сторінкам коментів у них усе вдається.

[QFlash]

EvhenS
Ні. Квантові системи це майбутнє.
По іншому ніяк хоч трісни.
Чому техпроцес складний?
Бо на субатомних рівнях втрачається поняття позиції. Втрачаються поняття самої речовини та її властивості.
Саме так.
Теоретично квантова обчислювальна машина може працювати зі швидкість світла.
Де тоді межа.?
Інформація.?
Що таке інформація? Це абстрактне поняття.

Відправлено через 33 хвилини 17 секунд:
Чому у природі кінцева швидкість фотона у вакуумі.? Не більше і не менше?
Це барєр, межа. Межа хаосу та порядку.

[Dilfin]

Немає ідеальної моделі управляння і вирішує все корупція, або її відсутність, не одного вже в Китаї розстреляли

Публічні страти це звичайно весело, але з чого ви узяли, що в Китаї страчують тих, хто порушив, а не тих кого вирішили стратити?
Наче ж мали награтися в ці ігри при СРСР і знати як знаходять цапів відбувайл.

Відправлено через 6 хвилин 25 секунд:

Ну как минимум, при коммунизме строилось жильё, да и можно было от государства квартиру получить.

Сєкундочку, спочатку вас мали розстріляти і розкулачити у 20-ті, потім пережити голодомор 30-ті, потім передити війну 40-х, потім не згнити у таборах 50-х, пахати як проклятий у 60-ті

Отримати квартиру у 70-ті і з 80х покотитися в сфінктор.

Тобто з 70років існування були десь 10 коли замість масовоі смерті був шанс отримати житло. З іншого боку, я при капіталізмі чесно купив і виплатив іпотеку за 10 років. То може ну його?

Комунізму ніколи не існувало і не буде існувати ніколи, це красива ідея, перетворена на диктатуру, я просто констатував факт, що при тому устрою, який зараз в Китаї, а на папері - це комунізм, там будують дивовижні інженерні споруди, там 1-2 еконаміка світу, є і багато поганих речей, але це факт, я взагалі за пряму демократію, але і її ніколи не буде.