Anthropic zkouší standard, který dovolí AI bezpečně ovládat laboratorní a výrobní stroje

Anthropic otevírá výzkumný náhled Model Hardware Standard (MHS) – specifikace, která má umožnit AI agentům bezpečně ovládat mikroskopy, pipetovací roboty nebo robotická ramena v laboratořích a výrobě. Má definovat, jak mohou AI agenti bezpečně ovládat fyzická zařízení.

První přístup ke standardu získávají vědecké laboratoře a pokročilí výrobci, kteří MHS využijí k řízení přístrojů jako jsou mikroskopy, pipetovací automaty nebo robotická ramena. Cílem je, aby model umělé inteligence zvládl koordinovaně řídit více laboratorních a výrobních nástrojů najednou – od rutinních experimentů ve vývoji léčiv až po přesné seřizování laseru v kvantovém počítači. Anthropic tak míří na oblast, kde se AI přestává omezovat na analýzu dat a začíná přímo manipulovat s fyzickým světem.

Společný jazyk mezi AI a stroji

Model Hardware Standard má fungovat jako společná specifikace mezi AI agentem a hardwarem. Místo toho, aby byl každý přístroj integrován do AI systému vlastní cestou, měl by MHS nabídnout jednotný způsob, jak AI popsat schopnosti zařízení, jeho limity a bezpečnostní omezení.

Podle Anthropic má takový standard umožnit, aby jeden agent ovládal různé typy nástrojů paralelně. V praxi to může znamenat scénář, kdy AI:

• z mikroskopu odebírá obrazová data,
• současně řídí pipetovacího robota pro přípravu vzorků,
• zároveň manipuluje s laboratorním robotickým ramenem.

Podobný přístup je zajímavý hlavně pro laboratoře a výrobu, kde dnes často existují uzavřené, na míru psané integrace pro každý stroj zvlášť. Standard typu MHS by podle záměru Anthropic mohl zjednodušit nasazení AI agentů ve složitějších provozech, kde je souběžný provoz více zařízení samozřejmostí.

Bezpečnost jako hlavní téma

Rozdíl oproti čistě softwarovým agentům je zřejmý: chyba v kódu nebo špatná instrukce u fyzického zařízení může vést k poškození drahého vybavení, ztrátě vzorků nebo bezpečnostním incidentům. Anthropic proto postavil MHS jako specifikaci, která má právě tyto rizikové situace předem ohraničit.

Standard má například výslovně popisovat, jaké operace je možné na zařízení provádět, v jakém rozsahu a za jakých podmínek. Agent by tak neměl mít možnost jednoduše „zkoušet náhodné příkazy“, ale musí zůstat v rámci předem definovaných schopností stroje. Společnost také mluví o tom, že MHS má podporovat paralelní provoz více zařízení tak, aby se jejich činnost vzájemně neohrožovala.

Na rozdíl od běžné integrace přes API, které pouze poskytne rozhraní k ovládání, má MHS cílit i na způsob, jak AI modelu předat informace o bezpečných režimech a omezeních. Jde o důležité téma například u laserových systémů v kvantových počítačích, kde špatně nastavený výkon nebo časování může zařízení poškodit nebo znehodnotit experiment.

Pilotní provoz v laboratořích a výrobě

V aktuální fázi nejde o hotový standard k širokému nasazení, ale o výzkumný náhled pro omezenou skupinu partnerů. Anthropic jej nabízí vybraným vědeckým týmům a výrobcům, kteří už dnes používají pokročilé laboratorní či výrobní vybavení a experimentují s AI agenty.

Mezi scénáře, na které firma výslovně cílí, patří:

• automatizované experimenty ve vývoji léčiv,
• komplexní chemické postupy s využitím vícero přístrojů,
• kalibrace laserů v kvantových a dalších přesných systémech.

Anthropic zatím neoznámil žádnou časovou osu, kdy by se MHS mohl stát průmyslovým standardem nebo kdy bude dostupný mimo současnou pilotní skupinu. Firma ho prezentuje jako výzkumnou specifikaci, na které chce dále pracovat společně s uživateli z praxe.

Pro firmy z oblasti laboratorní automatizace, specializované výroby nebo integrace průmyslových systémů je vývoj takového standardu signálem, že se velcí poskytovatelé AI začínají vážně zabývat ovládáním fyzického hardwaru. Na rozdíl od čistě softwarových agentů se tady střetává AI s požadavky bezpečnosti práce, ochrany investic do vybavení i regulatorních předpisů. Definice společného a bezpečného rozhraní tak má šanci stát se klíčovým tématem dalších let.