Стартъпът Thinking Machines Lab, основан от бившия технологичен директор на OpenAI Мира Мурати, представи първия си собствен AI модел – Inkling.

Компанията избира различна стратегия от OpenAI, Anthropic и Google: Inkling е т.нар. open-weight модел (система, чиито вече обучени параметри са със свободен достъп), което позволява на разработчици и организации да ги изтеглят и адаптират според нуждите си, съобщава TechCrunch.

Inkling използва архитектура от специализирани подмодели (т.нар. mixture-of-experts) с 975 милиарда параметъра, но при конкретна задача активира само около 41 милиарда. Този подход, популярен при съвременните езикови модели, осигурява по-ниски разходи и по-бърза работа без компромис с производителността.

Според TechCrunch моделът е обучен върху 45 трилиона токена, включващи текст, изображения, аудио и видео. Въпреки че обработва всички тези формати, към момента Inkling генерира само текстови резултати, включително програмен код, структурирани данни и текстови документи.

Моделът на Thinking Machines Lab излиза след близо година и половина работа, през която компанията изграждаше своята AI инфраструктура далеч от публичното внимание. Част от тази дейност вече беше показана през май, когато стартъпът представи експериментални т.нар. модели за естествено взаимодействие – способни да водят по-естествени разговори, като слушат, говорят и дори прекъсват събеседника си, вместо да чакат той да приключи, както правят повечето чатботове.

От Thinking Machines Lab не твърдят, че Inkling е най-мощният AI модел на пазара. В официалния си блог компанията изрично признава, че той „не е най-силният модел, достъпен днес – нито сред отворените, нито сред затворените системи“, отбелязва TechCrunch.

Целта на стартъпа е да създаде балансиран модел, който организациите могат да развиват според нуждите си. Inkling е проектиран да предоставя обмислени отговори и да посочва, когато не е сигурен, вместо да генерира убедително, но невярно съдържание. Потребителите могат да избират между по-бързи или по-качествени отговори според изискванията си.

Компанията съобщава, че при тестове Inkling постига резултати, сравними с Nemotron 3 Ultra на Nvidia, но използва около три пъти по-малко токени, което води до по-ниски изчислителни разходи.

TechCrunch отбелязва, че стратегията на Thinking Machines Lab не е продажбата на готов чатбот, а предоставяне на основа за изграждане на индивидуални AI модели от всяка организация.

Това се реализира чрез платформата Tinker, която позволява допълнително обучение и персонализиране на Inkling. Компаниите могат да адаптират модела към своите данни, процеси и експертиза. Този подход има и недостатък: отговорността за безопасността на персонализациите е на клиентите, а обучението изисква значителен машинно-обучителен капацитет.

Това е съществена разлика спрямо стратегията на OpenAI, Anthropic и Google, чиито ChatGPT, Claude и Gemini са създадени като универсални AI асистенти, върху които впоследствие се надграждат агентни и автономни функции.

Още преди представянето на Inkling компанията публикува материал, в който защитава тезата, че централизирано обучаваните модели неизбежно изостават от системите, които всяка организация може да адаптира сама. Аргументът е, че голяма част от корпоративната експертиза не съществува в публичните данни, а е концентрирана в знанията и работните процеси на конкретните екипи.

Подобни мнения изразяват и други лидери в индустрията. Както припомня TechCrunch, главният изпълнителен директор на Microsoft Сатя Надела наскоро заяви, че компаниите, използващи затворени AI модели, на практика плащат два пъти – веднъж чрез абонаментите си и втори път, като предоставят ценни бизнес знания чрез своите заявки, корекции и обратна връзка, които могат да бъдат използвани при обучението на бъдещи версии на моделите.

Подобна прогноза направи и главният изпълнителен директор на Hugging Face Клем Деланг, според когото най-мощните модели постепенно ще останат инструмент предимно за научни експерименти и най-сложните задачи, докато масовото корпоративно внедряване ще се насочи към частни или отворени модели.

Силен аргумент в подкрепа на този подход е съвместният проект с Bridgewater Associates, най-големия хедж фонд в света.

По информация на TechCrunch, изследователи от двете организации са взели съществуващ модел с отворен код и са го дообучили със собствените финансови знания на Bridgewater. Според представените резултати, новият модел е постигнал 84,7% успеваемост при тестове за финансово разсъждение, изпреварвайки някои водещи затворени модели, като същевременно работи приблизително 14 пъти по-евтино. Данните обаче са публикувани от самите участници в проекта и не са независимо потвърдени.

Thinking Machines Lab подчертава и бързината, с която е създала първия си публичен модел. Според TechCrunch, OpenAI е имала нужда от приблизително пет години, за да комерсиализира технологията си, а Anthropic – около три години. Thinking Machines твърди, че е постигнала това само за около девет месеца.

Един от въпросите около Inkling е дали при обучението му са използвани изходни данни, генерирани от конкурентни модели – практика, известна като дестилация.

Компанията признава, че част от ранните данни за последващото обучение са били генерирани с помощта на други open-weight модели, включително Kimi K2.5 на Moonshot AI. Основното предварително обучение на Inkling обаче е извършено изцяло от нулата, а следващото поколение модели ще разчита единствено на собствен процес на последващо обучение, посочва TechCrunch.

По отношение на инфраструктурата, компанията вече си партнира с Nvidia. През март двете страни обявиха сътрудничество за изграждането на изчислителна инфраструктура с капацитет един гигават, базирана на новото поколение системи Vera Rubin. Inkling е обучен изцяло върху платформите GB300 NVL72 на Nvidia.

Thinking Machines не разкрива как ще финансира мащабните си изчислителни ресурси. Според TechCrunch, приходите не са основен приоритет за компанията. Миналата година имаше информация за опит да се наберат около 50 млрд. долара финансиране, но преговорите са замразени, а компанията не коментира текущото си финансово състояние.

За разлика от OpenAI и Anthropic, които печелят основно от достъп до моделите си, Thinking Machines прилага различна бизнес стратегия. Тъй като параметрите на Inkling са публично достъпни, компаниите могат да го използват и без да плащат за всяка заявка. Именно затова основният източник на бъдещи приходи вероятно ще бъде платформата Tinker, която предлага обучение, персонализиране, донастройване и услуги около внедряването на модела.

Днес Thinking Machines Lab разполага с около 200 служители, след като по-рано тази година двама от съоснователите ѝ се присъединиха към OpenAI.

Източник на TechCrunch посочва, че компанията съзнателно изгражда култура, фокусирана върху екипната работа и устойчивото развитие, а не върху отделни личности – подход, който е интересен за стартъп, чието име все още се свързва с Мира Мурати.