INSAIT и NVIDIA създадоха тест за това доколко AI може да управлява роботи
LADDER оценява водещи AI модели при изпълнение на многостъпкови задачи с роботи – и показва, че дори най-силните системи все още се затрудняват сериозно
,fit(1001:538)&format=webp)
Изкуственият интелект вече решава сложни математически задачи, пише код и управлява хуманоидни роботи в демонстрации. Но когато трябва да изпълни поредица от прости физически действия без грешка – например да разчисти маса и да премести няколко предмета на правилните места – ограниченията му бързо стават видими.
INSAIT и NVIDIA представиха LADDER – нова публична платформа за оценка на способността на AI моделите да управляват роботи при изпълнение на последователни задачи. Целта е да се измерва не само дали един робот може да извърши отделно действие, а доколко надеждно може да изпълни цяла поредица от действия в правилния ред.
Платформата включва 145 ежедневни задачи с между един и десет обекта. Роботът трябва например да поставя плодове и други предмети в чиния или кош, да ги премества в определен ред или да оставя част от тях на място. Всяка задача се изпълнява в симулация и се отчита като успешна само ако всички предмети се окажат там, където трябва.
Резултатите показват голяма разлика между впечатляващите възможности на съвременните езикови модели и надеждността им във физическия свят.
Най-добрата тествана система изпълнява успешно 63,3% от задачите. При най-дългите задачи, включващи преместването на 8 до 10 предмета, успеваемостта пада до 34,8%.
Сред водещите модели в класацията са GPT-6 Astra, Claude Opus 5.5 и Gemini 4 Argon. Специализираните модели, разработени конкретно за роботика, се представят още по-слабо. Според INSAIT моделът π0.5 например може да премести успешно единичен предмет, но почти не успява да изпълни последователности с пет или повече обекта.
Колкото повече стъпки, толкова повече грешки
LADDER е създаден така, че да изолира един от основните проблеми при роботиката – натрупването на грешки.
Да се премести един предмет е сравнително лесна задача. При десет последователни действия обаче всяка грешка може да провали целия процес.
На сайта на платформата това е показано с привидно елементарна задача: роботът трябва последователно да постави банан, два портокала, лимон, лайм, авокадо, лук, личи, тиква и нар в кош.
За човек това е рутинно действие. За робот означава да разпознае всеки обект, да го хване, премести и постави правилно – десет пъти поред, без нито една грешка.
Точно тук резултатите се влошават най-рязко.
„Роботи, които могат надеждно да боравят с ежедневни предмети, остават едно от най-големите нерешени предизвикателства пред изкуствения интелект“, посочват авторите на LADDER.
Не само точност, но и цена
Платформата измерва и колко струва успешното изпълнение на дадена задача.
При GPT-6 Astra средната цена на успешно завършена задача е 6,49 долара. Това е около 20 пъти повече от Gemini 3.7 Flash, използван чрез PSP-Agent, който изпълнява 42,8% от задачите.
Пълното тестване на GPT-6 Astra върху приблизително 2000 опита в бенчмарка струва около 8000 долара, посочва INSAIT.
Така LADDER позволява да се сравнява не само кой модел се справя най-добре, но и каква е икономическата цена на тази надеждност – фактор, който ще бъде ключов при реалното внедряване на роботи в индустрията и услугите.
Симулацията съвпада с реалните роботи
Екипът е проверил резултатите и върху два реални робота. Подреждането на моделите се запазва същото като в симулацията, което според авторите показва, че платформата може да служи като надежден ориентир за реалните им способности.
В един от тестовете реален робот Franka, управляван от Gemini 3.7 Flash чрез PSP-Agent, трябва последователно да постави синя чаша, морков и патладжан в купа.
LADDER е публично достъпен и ще бъде обновяван с появата на нови AI модели. Разработчиците могат да добавят собствените си системи към класацията чрез публикувания код, а резултатите се проверяват от екипа на проекта.
Проектът е разработен от Петко Петков, Джулиано Албанезе, Николай Николов, Люк ван Гул и Данда Пани Паудел от INSAIT, както и Джонатан Трембле от NVIDIA.
LADDER показва и защо т.нар. Physical AI остава толкова трудна област: моделите могат да демонстрират впечатляващо езиково и логическо мислене, но надеждното взаимодействие с физическия свят изисква последователност, прецизност и устойчивост на грешки, които днешните системи все още не могат да гарантират.
&format=webp)
&format=webp)
&format=webp)
)
&format=webp)
&format=webp)
&format=webp)
&format=webp)
,fit(1920:897)&format=webp)
,fit(140:94)&format=webp)
,fit(140:94)&format=webp)
,fit(140:94)&format=webp)
,fit(140:94)&format=webp)
&format=webp)
,fit(140:94)&format=webp)