🖼 Open source vs closed source AI jailbraking & freebasing Не успели мы восхититься потрясающими горизонт…

Мнение экспертов

Open source vs closed source AI
jailbraking & freebasing

Не успели мы восхититься потрясающими горизонтами, открывающимися с приходом AI инструментов в нашу жизнь, как тут же уперлись в старую-добрую дискуссию.

Открытые большие языковые модели (LLM) vs закрытые!

А в чем, собственно, проблема, спросите вы?

Цензура!😨
Удивлены?

Посмотрите на скрины выше.
Ответ на любой вопрос в любом из популярных AI чат ботов цензурируется и превращается в пресную пережеванную жвачку!🤦
Меня как лингвиста по образованию это просто убивает!🤬
Как можно написать яркий текст, стих, статью, очерк, раскрывая все мелочные нюансы, если языковая модель тебя режет на каждом шаге и превращает твой текст в бесполую википедию?!

Поэтому, по крайней мере в ближайшее время, даже я начинаю на себе замечать повышение ценности взаимодействия именно с людьми, подписки именно на людей…а не на AI версии в текущем воплощении.

Почему это происходит, также понятно.

Для обучения своей собственной LLM требуются колоссальные ресурсы в виде оборудования и электричества. А если пытаться гнаться за текущими лидерами в гонке по переходу на AGI, и далее к super intelligence, то это вообще уже становится похоже на очередной проект Манхэттен, который невозможно потянуть без государственного плеча!🫨

Не зря во второй день своего президентства Трамп уже анонсировал создание национальной инфраструктуры Stargate, объединяющей AI усилия вокруг OpenAI, Oracle, с $0.5 трлн USD от SoftBank, как всего лишь первый шаг в эту сторону!🚀

Но, если ты централизованная компания, то у тебя появляется тонна юридических рисков. Отсюда неизбежно включаются механизмы цензурирования выдаваемого контента!

Поэтому все чаще начинают использоваться термины jailbraking и freebasing относительно текущих AI инфраструктур, суть которых в одном — убрать цензурирование и позволить развиваться языковым моделям дальше без «режима включенного ручника”.

Практически же, это пока тяжело реализовать, так как ни один частый проект, тем более метящий в децентрализацию в ближайшие пару лет не способен будет дотянуть до производительности централизованных LLM.🥲

В качестве костыльных решений, часто используют open-source модель Llama от компании Meta. Тренируют ее под себя на своих данных. И дальше запускают ее же тренироваться у более прогрессивных chatGPT или Claude.

Снимаю шляпу перед теми, кто пытается что-то строить в этой среде.
Динамика устаревания всего построенного просто ошеломляет!😱
То, над чем вы трудились несколько месяцев, может буквально устареть и оказаться ненужным за пару недель.
Но наблюдать и играться — супер интересно!👍

А вы как? Пользуетесь уже AI?

#ai

Смотреть этот пост в Telegram

Оцените статью
Бабаевская фабрика инвестиций - Babaev Invest
Добавить комментарий