Acer представляє компактну робочу станцію Veriton GN100 для ШІ на чипі NVIDIA GB10

[waryag]

Пропоную обговорити Acer представляє компактну робочу станцію Veriton GN100 для ШІ на чипі NVIDIA GB10

Рекомендована ціна складе 3999 доларів у США та 3999 євро в ЄС.

І райзен аі макс вже не виглядає таким оверпрайсом

[alexeygalas]

І райзен аі макс вже не виглядає таким оверпрайсом

Воно то так, але стільки флопсів йому ймовірно не осилити. Скільки заплатиш - стільки і отримаєш

[VovaII]

А нащо воно?

[DDt]

А нащо воно?

у этой штуки 120гиг юнифайд памяти (как у эпплов), для запуска локальных LLM шоб не городить ферму из 5090, ибо дешевле

[tornadox]

А нащо воно?

Acer Veriton GN100 постачається з попередньо встановленою операційною системою DGX Base OS і програмними інструментами для ШІ, включно з PyTorch, Jupyter, Ollama та іншими.

Це для організації локальної взаємодії з ШІ

[waryag]

Воно то так, але стільки флопсів йому ймовірно не осилити. Скільки заплатиш - стільки і отримаєш

Тут питання не стільки флопсів, скільки обсягу пам'яті - а по ній приблизний паритет.

[VovaII]

у этой штуки 120гиг юнифайд памяти (как у эпплов), для запуска локальных LLM шоб не городить ферму из 5090, ибо дешевле

Це для організації локальної взаємодії з ШІ

— Я не про технічні нюанси. Мене цікавить на що воно потрібно, якщо кругом "городять" суперкомп'ютери для обчислення ШІ. Ця робоча станція як чайна ложка проти кар'єрного екскаватора. Для чого її будуть реально використовувати? Що на ній можна зробити?
Або/і інше питання: якщо у Вас нема коштів на суперкомп'ютер ШІ, то де Ви наберете даних, щоб чомусь корисному навчити цю робочу станцію? Наприклад?

[DDt]

у этой штуки 120гиг юнифайд памяти (как у эпплов), для запуска локальных LLM шоб не городить ферму из 5090, ибо дешевле

Це для організації локальної взаємодії з ШІ

— Я не про технічні нюанси. Мене цікавить на що воно потрібно, якщо кругом "городять" суперкомп'ютери для обчислення ШІ. Ця робоча станція як чайна ложка проти кар'єрного екскаватора. Для чого її будуть реально використовувати? Що на ній можна зробити?
Або/і інше питання: якщо у Вас нема коштів на суперкомп'ютер ШІ, то де Ви наберете даних, щоб чомусь корисному навчити цю робочу станцію? Наприклад?

у Асуса есть точь в точь такая же рабочая станция, вот кусок из их презентации

оно больше для тех кому локально надо работать с моделями не за все деньги мира


Да, если шо эти станции стакаються до двух штук(на оверах не указано но в оригинале упоминают), вроде можно будет больше стакать, но пока под вопросом

[MqM]

у этой штуки 120гиг юнифайд памяти (как у эпплов), для запуска локальных LLM шоб не городить ферму из 5090, ибо дешевле

Це для організації локальної взаємодії з ШІ

— Я не про технічні нюанси. Мене цікавить на що воно потрібно, якщо кругом "городять" суперкомп'ютери для обчислення ШІ. Ця робоча станція як чайна ложка проти кар'єрного екскаватора. Для чого її будуть реально використовувати? Що на ній можна зробити?
Або/і інше питання: якщо у Вас нема коштів на суперкомп'ютер ШІ, то де Ви наберете даних, щоб чомусь корисному навчити цю робочу станцію? Наприклад?

Та очевидно, що це для одинаків профі, а не для великих компаній.
Зараз є безліч моделей, які упираються в обєм памяті, а ще є тренування моделей для особистих завдань.
От зараз стали модні всякі ші-агенти, людина бере і тренує на власних даних собі помічника.
Пс мовчу, що деякі змогли натренувати ші для гри в КС2 замість них)))

[tornadox]

— Я не про технічні нюанси. Мене цікавить на що воно потрібно, якщо кругом "городять" суперкомп'ютери для обчислення ШІ. Ця робоча станція як чайна ложка проти кар'єрного екскаватора. Для чого її будуть реально використовувати? Що на ній можна зробити?
Або/і інше питання: якщо у Вас нема коштів на суперкомп'ютер ШІ, то де Ви наберете даних, щоб чомусь корисному навчити цю робочу станцію? Наприклад?

Ніхто ж не каже що це заміна суперкомп’ютерам. Це інструмент для локальних моделей, інтеграції у бізнес-процеси, тестів і роботи з власними даними без відправки їх у хмару. Не всім треба навчати модель GPT-рівня, інколи важливіше мати швидкий і контрольований інструмент у себе.

[VovaII]

MqM
tornadox
Чекатимем прикладів.
Не від Вас, а взагалі.

[MqM]

MqM
tornadox
Чекатимем прикладів.
Не від Вас, а взагалі.

Усі приклади в ютубі, а якщо щодо цих конкретних збірок самому цікаво

[AssayMAS]

Не від Вас, а взагалі.

это тренировать нейронку надо много ОЗУ и профильных спецов с особым ПО, а когда она натренированная - надо меньше вычислительной мощи и ВРАМА - так вот такие коробочки и есть супер пупер ИИ "из коробки". Такие коробки "где будет жить дух в машине" начали резко делать все вендоры - значит чето знают и видят в нише сверх прибыля.
Особенность райзена АИ макс что до 96ГБ ОЗУ в врам для встройки может выделить и простая модель чат бота запустится за пару тыщ долларей. А аналогичного бота на врам на Нвидии городить будет от 6тыщ долларей... как то та к я вижу всё это. Но тут интел недавно анонсировала выпуск ускорители ИИ не в виде отдельной коробки или ПК, а в виде платы в стандартный ПК от 60 до 500 Ватт. Как и Хуавей подобное уже 5 лет делает - что в ряде тестов для нейронок в 10 раз лучше 5090, а игры ваще никак даже в 2д...

[VovaII]

это тренировать нейронку надо много ОЗУ и профильных спецов с особым ПО, а когда она натренированная - надо меньше вычислительной мощи и ВРАМА - так вот такие коробочки и есть супер пупер ИИ "из коробки". Такие коробки "где будет жить дух в машине" начали резко делать все вендоры - значит чето знают и видят в нише сверх прибыля.

О! Вот ето уже как то пококретнее звучит. Типа такой себе локальный ИИ для отдельно взятой компании. Осталось только готовый ИИ к ней докупить и замена половине работников готова.

Особенность райзена АИ макс что до 96ГБ ОЗУ в врам для встройки может выделить и простая модель чат бота запустится за пару тыщ долларей. А аналогичного бота на врам на Нвидии городить будет от 6тыщ долларей... как то та к я вижу всё это. Но тут интел недавно анонсировала выпуск ускорители ИИ не в виде отдельной коробки или ПК, а в виде платы в стандартный ПК от 60 до 500 Ватт. Как и Хуавей подобное уже 5 лет делает - что в ряде тестов для нейронок в 10 раз лучше 5090, а игры ваще никак даже в 2д...

Т.е. идет "прощупывание почвы" производителями. А там видно будет, что рынку зайдет. — Т.е. если умеешь то можно самому, а если нет, то подождать готовых решений, что себя зарекомендовали.