Модель GPT‑6 Astra від OpenAI створює безліч агентів, що збільшує завантаження локального CPU

[mult]

Я помітив за собою, що все більше віддаю переваю ШІ в користуванні.
При підборі якогось товару чи інших домашніх задачах, дуже спрощує задачу і економить час.
Те на що самостійно підуть години гугління, він за короткий час структурує і допомагає в питаннях які я не розумію.
Я не вірю йому сліпо.
Перевіряю посилання які він дає звідки взяв інформацію.
Звісно самостійно теж шукаю багато чого.
Відчуваю, що якщо цей ШІ нас таки не знищить, то в майбутньому мабуть на ньому буде завязано все.
Або ще наприклад в чому ШІ комфортніший, буває прописуєш задачу в пошуковику браузера.
Все чітко і однозначно задано і тобі браузер видає просто купу відповідей, але навіть і близько не те що ти шукаєш, якісь магазини, реклама і ще купу сміття.
Прописуєш таке ж ШІ і він чітко підтягує саме те що ти просиш.
Це мене в браузерах найбільше бісило.

[Georgin]

mult
"Я не вірю йому сліпо. Перевіряю посилання які він дає звідки взяв інформацію." - точно?

Я вже не раз стикався з ситуацією коли людина каже точно такі ж слова, а після перевірки виявляється, що майже нічого вона сама не перевіряла і сподівалася, що не перевірятиму і я
Якщо займатись самообманом - можна навіть не помітити власного отупіння і втрати здатності самостійно робити навіть прості обчислення та аналіз.
Залишається сподіватись, що хоч деякі з користувачів ШІ дійсно перевіряють дані, які він їм надає.

[dead_rat]

mult
"Я не вірю йому сліпо. Перевіряю посилання які він дає звідки взяв інформацію." - точно?

Я вже не раз стикався з ситуацією коли людина каже точно такі ж слова, а після перевірки виявляється, що майже нічого вона сама не перевіряла і сподівалася, що не перевірятиму і я

99.99% що ніхто не перевіряє

[mult]

Georgin
Я перехожу по посиланням які він мені дає і читаю
Бо було вже що він плутав схожі моделі пристроїв.
І нагадаю, я користуюсь для домашнього використання, вибір якогось гаджета, порівняння характеристик і технологій і інше.
Інші задачі по дому.
А те що хтось тупіє чи ні то вже від людини залежить, найбільш вразлива молодь як на мене

[Georgin]

mult
Так, для учнів (школярів та студентів) це просто отрута і незрозуміло як тепер виправляти ситуацію.
Для побутових завдань типу порівняти щось з чимось - принаймні, тут не буде великої шкоди (доки людина не почне займатись самолікуванняи, спираючись на поради AI).
А про те, що він плутає характеристики пристроїв - це для нього стандарт Тільки він їх не просто плутає, він часто їх вигадує, навіть не намагаючись шукати. Не може знайти якийсь нішевий пристрій - шукає схожий і не просто видає його характеристики, а змінює їх навмання і видає за дійсність.

Пару тижнів тому взагалі насмішив мене (AI Gemini, безкоштовна версія).
Історія така - є нішева японська новела, у ній 52 глави. Англійською доступно тільки 24. Я знайшов решту японською, переклав, дочитав і вирішив повеселитись:

Запит 1 - "знайди новелу таку-то і скажи мені, скільки у ній глав."
Відповідь 1 - "це нішева японська новела, у ній всього 4 глави і автор її не завершив".

Запит 2 - "неправда, вона завершена, у ній 52 глави і 24 з них викладено англійською у загальний доступ".
Відповідь 2 - "так, я перевірив і ти абсолютно правий - я дав невірну інформацію і ця новела дійсно завершена і у ній 52 глави.".

Запит 3 - "продивись останню 52-гу главу і розкажи мені, чим закінчилась історія".
Відповідь 3 - "так, я прочитав і вона закінчилась <видає мені офіційну анотацію, розтягнуту у часі типу "він і надалі намагався поступити у ВНЗ, а вона займалася самопізнанням">".

Запит 4 - "неправда, історія закінчилась <реальний фінал>. Звідки ти взяв твою версію фіналу?".
Відповідь 4 - "так, ти правий, я дав невірну відповідь. Я просто спрогнозував як вона може закінчитись на основі розвитку сюжету.>".

Ну на цьому я вирішив зупинитись, бо AI увійшов у коло брехні і було приблизно зрозуміло, що далі він буде просто "товкти воду у ступі".
Можливо, платна версія або інший AI дали б кращій результат, хоча ChatGPT точно так же видавав мені свої фантазії за факти

[Klon]

Georgin
бо воно не ШІ а нейронка яка як папуга угадує слова за словами, але покерфейс робить що ті корупціонери яки розказують що живуть на зп, і порше у жинкі ще перероблений матіз 08року

І з початку року замітив що воно стало більше брехати та видавати дічь (що з текстовими що з графічними нейронками) - подивився ютубчик\реддіт і там теж аналогічная ситуація, пишуть що можливо воробники це роблять навмистно - бо це як "слоти" = більше крутять, більше прибутку компашки

[Georgin]

Georgin
бо воно не ШІ а нейронка яка як папуга угадує слова за словами, але покерфейс робить що ті корупціонери яки розказують що живуть на зп, і порше у жинкі ще перероблений матіз 08року

І з початку року замітив що воно стало більше брехати та видавати дічь (що з текстовими що з графічними нейронками) - подивився ютубчик\реддіт і там теж аналогічная ситуація, пишуть що можливо воробники це роблять навмистно - бо це як "слоти" = більше крутять, більше прибутку компашки

Так, я це помітив. Спочатку думав, що деви навмисне спростили безкоштовні моделі, щоб люди швидше купували підписку.
Але потім попрацював трохи з платною версією (щоправа не найдорожчою) і вона всеодно робила набагато більше помилок ніж раніше.
Навіть став думати, що це в мене вже паранойя розвивається

Ал як говорить народна мудрість: "навіть якщо у Вас паранойя - це зовсім не означає, що за Вами ніхто не слідкує"

[penetrator]

Ой да ладно. Я пару дней назад скормил клоду целую кучу финансовой документации, которую мне бы пришлось полдня вычитывать в поисках расхождений.
Он мне выдал список всего за 5 мин, я отправил это м*****м, которые это все сделали с тебованием все исправить, и пошел катать диабло 4 дальше, пока мне платят мою высокую ЗП

Это же конфиденциальная инфа только для внутреннего пользования... Что вообще блин происходит, скоро люди читать разучатся и будут ИИ просить быренько рассказать кто и что в книжке на 10 минут

Вопрос персональных и конфиденциальных данных был первым, что я поставил когда наш С левел выкатил требование юзать клод вдоль и поперек всем в компании. Внятного ответа не последовало и всем дали понять, что юзайте, а там разберемся

[vdemeshko]

P.S. Перший тижневий ліміт Astra на 120-баксовій підписці я спалив ще в п'ятницю. Не AGI, але таки "вау".

Спалив ліміт 5 годин на 20 баксовій підписці на хай профілі за 16 хвилин, це було витрачено лише на пошук косяків в моєму пет проекті після сола і луни, але було продуктивно

Судя по репортам на редит - использовать лучше Астра не выше medium. Для такого рода задач не заметили разницу с high. Многие свичнулись на паттерн Astra low planner (вместо Sol High ) и Luna high/xhigh как имплементатор но с подготовленным handoff специально для это модели. Там еще пока вроде что то с лимитами на Астра не совсем нормально и вроде вот пофиксить должны судя по твиттеру Тибо + вот этот твит

[mult]

Georgin
Я геміні не користуюсь, використовую gpt і клод. Вроді нормально, без критичних косяків під ті задачі які мені потрібні.
Недавно до речі теж в gpt запросив розяснити деякі моменти научного серіалу, які були не зрозумілі.
То він мені чудово все описав, плюс порівняв серіал з книгою, описав де відрізняється серіал і книга і багато іншого.
Стало набагато зрозуміліше.

[Georgin]

mult
У Вас занадто примітивні для ШІ завдання і тому Вам здається, що вони норм.
Я використовував Gemini, Grok, ChatGPT та Claude для програмування і всі вони косячать у різній мірі

Доречі, начастіше усі ці AI обманюють користувачів саме на гуманітарних темах, де немає чітких правил та можна інтерпретувати що завгодно як завгодно і це для когось завжди здасться схожим на правду.
Питати у AI роз'яснення щодо художніх та наукових творів - даремна справа. Завдання більшості цих творів - стимулювати роботу мозку глядача, щоб він сам вчився перевіряти та знаходити відповіді.
На мою особисту думку у той момент, коли Ви не чогось зрозуміли і звернулись до AI замість того, щоб подумати самостійно щє трохи - Ви провалили завдання саморозвитку

Ви маєте розуміти, що дуже часто AI видає за факт або чиюсь іншу думку яку він взяв з інтернету, або свої "галюцинації". А зараз дуже часто трапляється наступна ситуація:

1. Юзер 1 дає AI специфічне запитання, AI не знаходить відповіді у інтернеті і вигадує свою на основі чогось існуючого і більш-меньш схожого по тематиці.
2. Юзер 1 вірить і постить цю відповідь у якомусь форумі зі свого акаунту "від свого імені", так би мовити.
3. Після цього Юзер 2 задає AI подібне питання -> тепер AI знаходить у інтернеті свою власну хибну відповідь, яку колись дав Юзеру 1, але ця відповідь для AI вже проходить як відповідь від Юзера 1.
4. Юзер 2 отримує цю хибну відповідь як вірну і посилання на джерело відповіді - це вже не посилання на AI, а на якийсь профільний форум і на реального Юзера 1.

От так помилкові відповіді стають правильними в очах AI і розповсюджуються далі, видаються у пошуковиках і т.п.

Треба пам'ятати - усі існуючі AI оперують тільки тими даними які вже є у джерелах, доступних для них. Вони не можуть самостійно формулювати собі нові ідеї, задачі та теорії і на їх основі починати та проводити власний аналіз і дослідження.
Це глобальний мінус існуючих AI і одна з головних причин, чому експерти-науковці (а не маркетолухи типу Альтмана та Хуанга з Су) прямо говорять про те, що це не є справжній "штучний інтелект".

[Васильович]

експерти-науковці (а не маркетолухи типу Альтмана та Хуанга з Су) прямо говорять про те, що це не є справжній "штучний інтелект".

Бо так і є, сабж - це просто нейронна мережа, яку навчили надресирували на великих об'ємах інформації.
Десь воно корисне, десь - не дуже. Інструмент під задачі

[rizakrko]

Georgin
Нещодавно на редіті брав участь у обговоренні ракетного озброєння повітря-повітря радянського зразка, і мова йшла про r-73. Якраз перед тим дивився трансляцію мілітарного, і там один з учасників говорив про обмеженн використання цих ракет над населеними пунктами через погану головку наведення (може на вантажівку або димохід навестися). Я це написав у тому треді, а потім вирішив ще загуглити про це інформацію. Так гугловий ШІ з усією впевненістю зіслався на мою відповідь . Правда це чи ні я так і не зміг знайти, але гугл тепер каже, що все так і відбувається.

[Georgin]

Васильович
Так прикол щє й у тому, що під справді серйозні завдання всі ці LLM взагалі не потрібні. Для наукових досліджень існують настільки нішеві "AI", що я таких назв навіть не чув, доки цілеспрямовано не почав шукати.
А всі ці LLM - даремна витрата ресурсів на генерацію фейкових відео, чат-ботів з ефектом "живої людини" та конфігів для умовного Docker.

Зате тепер кожен підприємець - вайбкодер і може заявити, що він більше не хоче оплачувати підтримку проекту, сам модернізує собі бекенд і зекономить на цьому тони грошей.
А потім "шось сайт ліг і не встає після обнови, ми відкотили але ж мікросервіс потрібен, підключіть зі знижечкою (ми ж друзі) а то а то нехороший Claude щось не те порадив".

rizakrko
Це вже буденність, багато випадків було. Розробники AI знають про проблеми вже дуже давно і заява у них була приблизно така (тільки от не пам'ятаю, хто конкретно сказав) - "з "галюцінаціями" AI боротись надзвичайно дорого і
ми цього робити зараз не плануємо". Ну а з випадками типу тих, який я описав вищє - тут взагалі не зрозуміло, з якого боку підійти до цієї проблеми.

[dead_rat]

Пару тижнів тому взагалі насмішив мене (AI Gemini, безкоштовна версія).

Збираємося хайкати в гори, маршрут прокладено, по приколу спитав Геміні.

Він каже супер маршрут і наступні дні ідеальна погода

А я то прогноз знаю, кажу перевір точно.
Каже… після обіду буде гроза.
Отак би життя великого рейнджера і оборвалося(с)

[Georgin]

dead_rat
Для роботі з AI завжди актальне трохи змінене прислів'я: "Сім раз перепитай, на восьмий - можна і повірити"
Добре, що "чуття рейнджера" не підвело

[mult]

Georgin
По серіалу за який я писав, я точно знаю що ші написав все правильно.
В мене там простіша ситуація, я питав в нього деякі не зрозумілі моменти зараз, бо ці незрозумілі моменти можуть розкрити тільки через рік в новому сезоні, він ще не закінчений.
А я хочу знати відповіді зараз, бо таке життя, що наступного року може і не бути
А те що він мені все розписав правильно я не сумніваюсь, бо він брав ці дані з оригінальної трилогії книг по яких знятий цей серіал.
Ну і так, задачі для ші в мене примітивні, суто домашні, мені більшого не треба
Але самостійним пошуком і аналізом я теж активно користуюсь.
Просто на контрасті самостійного і з ші, то з штучним часто буває простіше і швидше.
В майбутньому мабуть вже не буде таких обговорень, всі сидітимуть на ші і іншого не знатимуть, це моя така чуйка, дивлячись на те як розвивається це все діло.

[Rabbitultra]

Я помітив за собою, що все більше віддаю переваю ШІ в користуванні.
При підборі якогось товару чи інших домашніх задачах, дуже спрощує задачу і економить час.
Те на що самостійно підуть години гугління, він за короткий час структурує і допомагає в питаннях які я не розумію.
Я не вірю йому сліпо.
Перевіряю посилання які він дає звідки взяв інформацію.
Звісно самостійно теж шукаю багато чого.
Відчуваю, що якщо цей ШІ нас таки не знищить, то в майбутньому мабуть на ньому буде завязано все.
Або ще наприклад в чому ШІ комфортніший, буває прописуєш задачу в пошуковику браузера.
Все чітко і однозначно задано і тобі браузер видає просто купу відповідей, але навіть і близько не те що ти шукаєш, якісь магазини, реклама і ще купу сміття.
Прописуєш таке ж ШІ і він чітко підтягує саме те що ти просиш.
Це мене в браузерах найбільше бісило.

Звичайно пошуковик видає сміття. Його товар це ваші очі, точніше увага які користувачі дають поки шукають якусь інформацію по темі, якщо знайти надто швидко, то не вдасться показати багато реклами. Тому видає якийсь слоп, щоб побільше шукали далі. Нейронки ж поки що цього не роблять. Поки що

[Ostin]

Щодо пошуку інфи та її структуризації.
Перше. ШІ дійсно гарно структурує дані і видає результат ніби "без сміття". Це дуже зручно, насправді. Не дивно, що багато людей цим користуються.
Друге. Результат пошуку може бути невірним або невірно інтерпретованим з боку ШІ, що видасть абсолютно неправдиву інформацію, або з великою похибкою.
Третє. Частково вирішенню проблеми 2 допомагає натравлювати відповіді ШІ на різні моделі, які вони повторно аналізують і змушені перевірити достовірність ще раз.
Четверте. В кінцевому підсумку результат можна прийняти як потенційно достовірний, але такий, якому не можна довірити щось важливе. Наприклад, купити щось, детально співставивши інфо з різних ші та перевіривши джерела - цілком ок. Найгірше - це треба буде продати товар, який не підійшов. Це не є критичним, якщо сума вкладів не надто висока для покупця. А от що стосується якоїсь інфи про здоров'я, коли треба застосувати ліки з побічками - я б уже не ризикував ні з ші, ні з іншими даними з відкритих джерел, не погодивши інфо з лікарем як мінімум.

В майбутньому мабуть вже не буде таких обговорень, всі сидітимуть на ші і іншого не знатимуть

В ковідні часи молоді колеги мені з серйозним виразом обличчя розказували, як скоро всі посідають вдома і матимуть якийсь дохід з ноутбука. На практиці, як бачимо, люди не те що не перестали фізично ходити на роботу, а ще й почали як в середньовіччі копати ями лопатами та жити на зразок первісної людини в печері, яка ховається від загрози.
Тому чуйка чуйкою, але шанс, що все воно піде під три чорти - далеко не нульовий.

[mult]

Ostin
Хто не вміє перевіряти інформацію, той і без ШІ може нагуглити неправдиву чи не вірну інформацію
Про ліки то правда, для цього є лікарі.
Але я знаю багато людей які пють ліки самі, без консультації з ШІ і лікарем, бо десь прочитали що вони допоможуть
Я думаю що з ші що без нього треба все перевіряти і не вірити всьому, але це не всім доступне, багато людей навіть пошуком нормально не вміють користуватись
Я ні разу не є фанатом штучного інтелекту, просто написав що в деяких домашніх ситуаціях добряче економить час і допомагає.
А взагалі це така спірна штука, яка може принести не тільки купу добра людям, а і дуже багато горя.