NVIDIA повернулася до роботи над лінійкою відеокарт GeForce RTX 50 Super

[MetalistForever]

почав луснути?

та щось не помітно поки. а в 27 році там вже більш імовірно, що ситуація з пам'яттю стабілізується, з лопанням бульбашки чи без цього (що також цілком можливо). от і дивись: анонсують ці супери на початку 27го, випустять ще через місяць-два. то ж від теперішнього моменту чимало часу мине місяців 7-8. і то питання по якій ціні їх релізнуть (якщо взагалі чутки підтвердяться і таки релізнуть) залишається відкритим

Відправлено через 1 хвилину 12 секунд:

Хуанг окончательно решил положить болт на развитие Nvidia ,как создателей GPU

нічо, шо контора контролює 94% ринку дискретних відеокарт?

А вы послушайте, что говорит Хуанг на выставках , для них видухи стали семечками ( по доходам и важности ) . Посмотрите на отчётность Nvidia , которая переместила ( спрятала ) доходы от GPU в кластер AI

[Nikolay Yeryomenko]

А ще BitDefender блокує модулi(auepdu.exe) драйверiв амд як пiдозрiлi i це не помилка

Додай в exclusions або вимкни.

[Smilodonius]

Раньше видеокарты упирались в реальную мощность, а сейчас добавят новый инструмент с помощью памяти. Хватает мощности чипа ? значит не будет хватать видеопамяти и т.д.

[leif]

А вы послушайте, что говорит на Хуанг на выставках , для них видухи стали семечками ( по доходам и важности ) . Посмотрите на отчётность Nvidia , которая переместила ( спрятала ) доходы от GPU в кластер AI

ніде там не чув нічого, що казало би про те, що в нвідіа прям забили на цей напрям. це і відображається в ринковій ситуації: тотальна домінація нвідіа на ринку dGPU, конкуренти смокчуть бібу.

от коли щось зміниться, тоді можна буде говорити

[lw_007]

почав луснути?

та щось не помітно поки. а в 27 році там вже більш імовірно, що ситуація з пам'яттю стабілізується, з лопанням бульбашки чи без цього (що також цілком можливо). от і дивись: анонсують ці супери на початку 27го, випустять ще через місяць-два. то ж від теперішнього моменту чимало часу мине місяців 7-8. і то питання по якій ціні їх релізнуть (якщо взагалі чутки підтвердяться і таки релізнуть) залишається відкритим

Оптимістичний прогноз - стабілізація в 27 й корекція десь в 28рр.

Але, особисто мені, реалістичнішим здається 27-28рр стабілізація - нові фабрики вийдуть на повні потужності, а нарощування кількості параметрів в нейронках відчутного зростання якості давати вже не буде.

А в 29-30рр. Знов зростання цін на пам'ять - підписки нейронок за 20$ стануть по 100 і почнеться попит на локальні LLM. І, відповідно, треба буде по 128-256 пам'яті в десктопах)

[yupi90]

Для игр эти изменения несуществены, для локальных LLM 24 ГБ это более комфортный объем чем 16 ГБ. Для 100B+ параметров 24 ГБ недостаточно.

Может выпустят 5080ти Супер, шина 352 бита 33 ГБ, будет прикольно

А вообще, надо следующее поколение чипов на новом техпроцессе, без этого игры существенных изменений не покажут.

Графика в современных играх это последнее чего им не хватает.

[МОНАХ]

► Filabatya, боюсь зурочити, бо ще не отримав: оптовик вже хотів закрити наявність для мого постачальника, але під кінець таки надибав останній на вчора екземпляр десь в Києві - ще, не факт, може якась "чебурашка" прийти (одна з причин, чого беру через вивірених місцевих постачальників, щоб зайве не паритись в таких випадках і додаткових витрат не нести).

спойлер

► Так мені ж в профільній темі мінусів навішали і сказали - раз примірився до дешевих Гігабайта і МСІ - так бери і не пар тут всім мозок, мол, нормальні карти будуть. Ну то я й чекав або падіння нижче 50000, або падіння гривні - друге наступило швидше. Гігабайт через день то пропадав, то з'являвся (видно стабільно розбирали), а МСІ-ї - чипіли стабільно, тільки по ціні стрибали, особливо Вентус - часом наближаючись по ціні до Геймінга аж в 2000 грн. різниці. Враховуючи, що беру карту на років 6-8 і отаке цінове блюзнірство між Вентусом і Геймінгом, добив "жабу" на смерть і таки замовив MSI GeForce RTX 5070 Ti 16G GAMING TRIO OC. Якщо все добре, то обійдеться мені в 53850 (коли б не тупив, а замовив ще на минулій неділі, то в 52250 вийшло би). З Вентусом якась дурня творилась - від 49900 до 54320 ціна стрибала .

► А щодо того, щоб андервольтити і розганяти - так, потрібно буде вивчити те все діло, паралельно з тим, як почитаю вже, напевно, цілу "енциклопедію" по всіх цих ваших рейт-паст-рейсінгах, діелесесах і інших нейрослопних нВідіївських "делікатесах"

[leif]

І, відповідно, треба буде по 128-256 пам'яті в десктопах)

якої пам'яті? щоб крутити щось пристойне локально треба дуже багато швидкої пам'ті, ram тут не допоможе хоч 2тб поставте.

я он позапускав локально на своїй 5090 ЛЛМки, ну це дуже обмежений функціонал, як на мене, щось робити можна, але... meh. треба 96гб щоб хоч щось цікаве було

[МОНАХ]

МОНАХ
приблизно то саме писали минулого року на межі літо-осінь, а потім ціни на пам'ять взлетіли і все відклали

► Так, я тоді якраз і "попав на мамонта", бо новий "комп" скласти встиг, а по відеокарті не дуже "горіло", то думав не кидатися в катастрофічне кредитування, щоб ще й і її за відносно нормальних цін докупити - з початком зростання цін, думав взагалі ще років зо два не оновлюватись: ігри би майже не грав нові, але для роботи ще старої вистачало.
► Але минулого року трохи відносний "нежданчик" з цінами на пам'ять вийшов, цього разу, думаю, вже трохи поміркованіше вкидують такі анонси з цими Суперами. Але - побачимо...

[Filabatya]

МОНАХ

спойлер

Гарний варіант ще гіга геймінг, вона по розмірам, як майже два вантуза і +1рік додаткової гарантії. Тріо сама тиха, з предтопових
До томагавка буде секс

[erkins007]

Ну це було б просто шикарно мені для 8K-геймінгу , де 16 Гб катастрофічно не вистачає.

Для 8к и 5090 не будет хватать. Ну только если ты не Лего в 8к на ней будешь крутить

[МОНАХ]

► Filabatya, та там - трохи... капець

спойлер

► Розміри не самі здорові, враховуючи старші моделі (особливо презентовану недавню, яка з дисплеєм на боку), але я вже трохи "очкую", що взяв "мідл" Fractal Design: Define 7, а не "фулл", як планував був: у мене корпус в "стореджі" розгорнутий - зі стінкою для кріплення "кошиків" жорстких дисків. Диски-то я зазделегіть ще при зборці з "нуля" завбачливо розтикав вверх і вниз, але от чи "пірне" цей Геймінг зі своїми 140мм під цю стінку чи таки доведеться її демонтувати - оце ще питання. Дуже не хотілося б...
► Коли б ціна на Вантуз була більш-менш стабільна 48-49 тис., брав би його, а так - коли він до Геймінга по ціні "стрибав" мало не впритул... - тільки жаліти буду років через 5, коли в другий Кіберпанк грав би і Вантуз мені "різнокольоровими" "вовками завивав би".
► В кінці-кінців "прогріли ждуна-полу-мамонта" аж майже на 8000грн. (коли б брав цей Геймінг за найнижчої ціни минулого року по своїх каналах, то вийшов би мені десь в 46000+грн.). "Полу-мамонта" - тому, що частково я свідомо бачив, до чого йде і одночасно не мав можливості і частково не хотів потягнути ще й такі витрати на той час.

[lw_007]

І, відповідно, треба буде по 128-256 пам'яті в десктопах)

якої пам'яті? щоб крутити щось пристойне локально треба дуже багато швидкої пам'ті, ram тут не допоможе хоч 2тб поставте.

треба 96гб щоб хоч щось цікаве було

Правда не допоможе? На ai strix halo 272Гб/с по тестам

На Medusa Point, по прогнозам, буде близько 500 Гб/с.
Це, звісно, не дотягує до GPU, але й об'єми такі що це досить ок для домашньої альтернативи для A100/H100



PS. Відчуваю, зараз почнуть спавнитись адепти 4х3090 з безкоштовною розеткою)

[vmsolver]

Графика в современных играх это последнее чего им не хватает.

С такой философской позиции может быть и да, но если спустится на Землю, то GPU за разработку игр не отвечает, что ей дали то считает и показывает. Так что призываю отделять мух от котлет

[lw_007]

Графика в современных играх это последнее чего им не хватает.

С такой философской позиции может быть и да, но если спустится на Землю, то GPU за разработку игр не отвечает, что ей дали то считает и показывает. Так что призываю отделять мух от котлет

А якже кластери з ШІ і купа генерованого коду?

спойлер

Хоча, по правді, читав я що тут справа в сеньйорах і архітекторах які плювали/не вміють в оптимізацію, не знають математики.

[vmsolver]

І ну не знаю як треба квантувати моделі, бо 24Gb не вистачає навіть для 31B моделей + довгий контекст

Обладатели 16 ГБ вынуждены использовать другие модели, например MoE или ограничено использовать плотные на мелких контекстах типа 20-30к. Се ля ви, всегда хочется больше.

Відправлено через 1 хвилину 23 секунди:

А якже кластери з ШІ і купа генерованого коду?

спойлер

Хоча, по правді, читав я що тут справа в сеньйорах і архітекторах які плювали/не вміють в оптимізацію, не знають математики.

А что с ними не так? Это инструмент. Если забил криво гвоздь, то виноват молоток?

[leif]

На ai strix halo 272Гб/с по тестам

ну це далеко не пересічний декстоп, як ви розумієте.

На Medusa Point, по прогнозам, буде близько 500 Гб/с.

цього ще немає.

Це, звісно, не дотягує до GPU

в рази.

домашньої альтернативи для A100/H100

а отут ви вже сильно перегинаєте

запускати більші моделі то щось типу ai strix halo допоможе, а ось пристойно крутити (в моєму розумінні), то ні, для цього потрібне інше залізо. не порівнюйте з пальцем

[Artem_M]

щодо того, щоб андервольтити і розганяти - так, потрібно буде вивчити те все діло...

Якщо йдеться про 5070ті то там все добре з цим.
І женеться до 3150Гц без напяргу, і андервольтиться славно)
Тим паче trio oc, повинна мати запас по охолодженню і паверлітіму.

[капітошка]

5060 12gb

якщо ціна буде неадекватна то її чекає доля 9070GRE, якщо реальна буде 350-400$ то ок

[lw_007]

спойлер

На ai strix halo 272Гб/с по тестам

ну це далеко не пересічний декстоп, як ви розумієте.

На Medusa Point, по прогнозам, буде близько 500 Гб/с.

цього ще немає.

Це, звісно, не дотягує до GPU

в рази.

домашньої альтернативи для A100/H100

а отут ви вже сильно перегинаєте

запускати більші моделі то щось типу ai strix halo допоможе, а ось пристойно крутити (в моєму розумінні), то ні, для цього потрібне інше залізо. не порівнюйте з пальцем

Ну, загалом так, звісно не пересічні десктопи, і це поки наукова фантастика все з певною вірогідністю.
Хоча хто зна що там через три рочки буде)

Але, впринципі, якщо FP8 то тут вже можна буде крутити 80B моделі. Хоча ні, - вже можна)
ну і не знаю, якщо на zen6 в такому сценарії буде 35-50 t/s то для локального використання здається ок. Чи це замало?

PS про 50 t/s це я мав на увазі MoE

Відправлено через 3 хвилини 24 секунди:

І ну не знаю як треба квантувати моделі, бо 24Gb не вистачає навіть для 31B моделей + довгий контекст

Обладатели 16 ГБ вынуждены использовать другие модели, например MoE или ограничено использовать плотные на мелких контекстах типа 20-30к. Се ля ви, всегда хочется больше.

Хіба MoE не стільки ж пам'яті хавають? Тільки швидші.

Відправлено через 1 хвилину 23 секунди:

А что с ними не так? Это инструмент. Если забил криво гвоздь, то виноват молоток?

Під спойлер (в тому що ти цитував) глянь)