После некоторых исследований, сравнение Google и OpenAI даже не...

После некоторых исследований, сравнение Google и OpenAI даже не является справедливым, говорит Марк Гейтер; Google имеет не одну, а 3 языковые модели... ChatGPT просто спровоцировал зверя.

Модели ИИ от Google на самом деле на несколько лет опережают GPT от OpenAI; GPT3 основан на Transformer - архитектуре Google, которую они представили в 2017 году (6 лет назад).

Думаете, что у Google проблемы в эпоху ИИ? Google AI вот-вот выйдет из своей пещеры после более чем десятилетних исследований и разработок.

У Google есть (1.) Sparrow (похожий на ChatGPT), но самый "слабый" из трех.

Языковые модели Google; основаны на модели Chinchilla, которая имеет 70 миллиардов параметров, но превосходит гораздо более крупные модели на всех возможных эталонных тестах (включая Gopher → 280B параметров и GPT3 → 175B параметров) благодаря передовым методам обучения Google.

Sparrow - это тонко настроенная версия Chinchilla, так же как ChatGPT - тонко настроенная версия GPT3. Sparrow и ChatGPT находятся почти на одном уровне, за исключением того, что Sparrow имеет преимущество в предоставлении доказательств своих ответов (ссылки, упоминания...) Sparrow разработан Deepmind, одной из дочерних компаний Alphabet, и они находятся на переднем крае исследований уже более десяти лет.

Не забывая, что Deepmind - это та же компания, которая создала AlphaGo, AlphaZero, AlphaFold, AlphaCode (лучший в мире ИИ для программирования, который был выше медианы в соревновательном программировании против задач, созданных Codeforces), AlphaTensor и т.д.

Sparrow - это здорово, но это еще не лучшая модель ИИ от Google.

Помните Блейка Лемуана? "ИИ Google - чувствующий"? Его работа заключалась в работе с самыми передовыми моделями ИИ. После выхода ChatGPT Блейк написал в Твиттере следующее:

У Google есть LaMDA. Языковая модель вроде ChatGPT - это всего лишь модуль внутри LaMDA, но LaMDA имеет множество других модулей.

Если вы спросите его, например, о фильме, а знаний о нем нет в модели, на этом разговор закончится, но с LaMDA он может запросить веб, посмотреть фильм и научиться на его основе".

У Google имеется очень много данных, просто нужно скормить их LaMDA.

Кроме того, LaMDA была обучена диалогу, что делает ее гораздо более убедительной и внятной.

Вы задаетесь вопросом, почему тестовая кухня LaMDA не так впечатляет, как должна бы. Это потому, что "Это резко ограниченная версия LaMDA...", LaMDA - это даже не лучшая модель ИИ от Google...

PaLM

540B параметров, обучена на более чем 6000 чипах TPU и ее обучающие данные состоят из разговоров в социальных сетях, веб-страниц, книг, кода и многого другого.

Эта модель является многоязычной.

Она превзошла все предыдущие модели ИИ, такие как GPT3, Megatron Turing, Chinchilla и даже LaMDA по всем показателям...

В бенчмарке Imitation Game Benchmark (BIG-bench), включающем действительно сложные задачи, такие как приведение убедительных аргументов в пользу ложных утверждений, PaLM удалось превзойти средний показатель успешности человека.

Почему же Google не выпускает все эти удивительные продукты?

Если ChatGPT или какой-либо другой продукт станет реальной угрозой, они просто выпустят LaMDA и побьют ChatGPT.

@MikeBlazerX

Источник новости https://t.me/mikeblazerx/1181...