У Массачусетсі працюють над мовною моделлю для роботів

Массачусетський технологічний інститут представив новаторську модель роботизованого навчання. Тут взяли за основу великі мовні моделі (LLM), такі як GPT-4, які використовують величезну кількість вхідних даних для надійного навчання та адаптації. Новий підхід відрізняється від традиційного навчання робототехніки, коли роботів навчають на вузьких наборах даних, адаптованих до конкретних завдань. Натомість система Heterogeneous Pretrained Transformers (HPT) Массачусетського технологічного інституту дозволяє роботам використовувати ширший і різноманітніший набір інформації, що робить їх більш адаптованими до складних умов реального світу.

Про це пише Techcrunch.com.

Проблеми при традиційному навчанні

Поточний стандарт у робототехніці, імітаційне навчання, базується на імітації дій людини. Незважаючи на те, що імітація ефективна для простих завдань, імітаційне навчання дає збій, коли вводяться несподівані змінні, такі як зміни освітлення, незнайомі умови або нові перешкоди. Ці обмеження виникають через те, що роботам не вистачає величезних універсальних резервів даних, необхідних для динамічної адаптації. Визнаючи це, дослідники Массачусетського технологічного інституту шукали модель, яка могла б ефективніше впоратися з такою мінливістю середовища.

Розробка HPT

Надихнувшись тим, як LLM обробляють різноманітні мовні вхідні дані, команда MIT розробила HPT для обробки масиву вхідних даних від різноманітних датчиків у різних налаштуваннях. Замість того, щоб розглядати ці джерела даних окремо, HPT використовує трансформатори для інтеграції різнорідних даних у цілісні моделі навчання. Результатом є більш повне розуміння завдань, середовища та перешкод із покращенням результатів моделі разом із масштабом моделі.

У мовній сфері всі дані — це лише речення. У робототехніці, враховуючи всю неоднорідність даних, якщо ви хочете попередньо навчатися подібним чином, нам потрібна інша архітектура», — пояснив Ліруй Ван, провідний автор статті.

Потенційні застосування

Модель HPT дозволяє користувачам вводити конкретні конфігурації робота та вимоги до роботи, дозволяючи роботу виконувати завдання без тривалого індивідуального навчання. За словами Девіда Хелда, доцента CMU, мета полягає в тому, щоб розробити універсальний мозок робота, який можна було б завантажувати та впроваджувати в різні роботизовані системи без необхідності навчання для конкретного завдання.

Дослідження Массачусетського технологічного інституту прокладає шлях для створення адаптивної роботизованої політики, яка могла б революціонізувати галузі, залежні від автоматизації, від виробництва до охорони здоров’я. Хоча розробка все ще перебуває на ранніх стадіях, бачення універсального роботизованого мозку, здатного розуміти та виконувати завдання з мінімальним індивідуальним навчанням, пропонує багатообіцяючі наслідки для майбутнього робототехніки.