Een nieuw raamwerk van onderzoekers Alexander en Jacob Roman verwerpt de complexiteit van de huidige AI-tools en biedt een synchroon en veilig alternatief voor het type dat is ontworpen voor reproduceerbaarheid en kosteneffectieve wetenschap.
In de haast om autonome AI-agents te bouwen, worden de meeste ontwikkelaars gedwongen een binaire keuze te maken: de controle afstaan aan een groot, complex ecosysteem zoals LangChain, of zichzelf opsluiten in een SDK van een enkele leverancier van een provider als Anthropic of OpenAI. Voor software-ingenieurs is dit vervelend. Voor wetenschappers die AI proberen te gebruiken voor reproduceerbaar onderzoek is dit een mislukking geweest.
Binnenkomen AI-orkestratornieuw Python-framework uitgebracht Github deze week probeert een derde pad in kaart te brengen.
Ontwikkeld door theoretisch natuurkundige Alexander Roman en software-ingenieur Jacob RomanOrchestrator positioneert zichzelf als het antwoord van ‘wetenschappelijk computergebruik’ op agent-orkestratie, waarbij prioriteit wordt gegeven aan deterministische uitvoering en duidelijkheid over het opsporen van fouten boven de ‘magie’ van veel asynchrone alternatieven.
‘Anti-framework’-architectuur
De kernfilosofie achter Orchestral is een doelbewuste afwijzing van de complexiteit die de hedendaagse markt teistert. Hoewel raamwerken als AutoGPT en LangChain sterk afhankelijk zijn van asynchrone gebeurtenisloops (waardoor trackingfouten een nachtmerrie kunnen worden), gebruikt Orchestraral een zeer synchroon uitvoeringsmodel.
“Reproduceerbaarheid vereist een nauwkeurig begrip van welke code wordt uitgevoerd en wanneer”, betogen de oprichters in hun technische paper. Door operaties in een voorspelbare lineaire volgorde te dwingen, zorgt dit raamwerk ervoor dat het gedrag van agenten deterministisch is – een belangrijke vereiste voor wetenschappelijke experimenten waarbij ‘hallucinerende’ variabelen of rasomstandigheden onderzoek kunnen ontkrachten.
Ondanks de nadruk op eenvoud is het raamwerk provider-agnostisch. Het wordt geleverd met een uniforme interface die werkt op OpenAI, Anthropic, Google Gemini, Mistral en lokale modellen via Ollama. Hierdoor kunnen onderzoekers één keer een agent schrijven en het onderliggende ‘brein’ inruilen voor een enkele regel code – belangrijk voor het vergelijken van modelprestaties of het beheren van subsidiegeld door over te schakelen naar een goedkoper model om het ontwerp uit te voeren.
LLM-UX: ontwerpen voor modellen, niet voor eindgebruikers
Orchestral introduceerde een concept dat de oprichters ‘LLM-UX’ noemden: een gebruikerservaring ontworpen vanuit het perspectief van het model zelf.
Dit raamwerk vereenvoudigt het maken van tools door automatisch JSON-schema’s te genereren op basis van standaard hints van het Python-type. In plaats van lange beschrijvingen in een apart formaat te schrijven, annoteren ontwikkelaars eenvoudigweg hun Python-functies. Orchestral zorgt voor de vertaling en zorgt ervoor dat de gegevenstypen die tussen LLM en code worden doorgegeven, veilig en consistent blijven.
Deze filosofie strekt zich uit tot ingebouwde tooling. Het raamwerk bevat een persistente terminaltool die de status ervan (zoals de werkmap en omgevingsvariabelen) tussen oproepen door onderhoudt. Dit bootst de manier na waarop menselijke onderzoekers omgaan met de opdrachtregel, waardoor de cognitieve belasting van het model wordt verminderd en een veel voorkomende foutmodus wordt voorkomen waarbij de agent drie stappen geleden “vergat” van map te wisselen.
Gebouwd voor het laboratorium (en het budget)
De oorsprong van het orkest in de hoge-energiefysica en het onderzoek naar exoplaneten komt duidelijk naar voren in de featureset. Het raamwerk omvat native ondersteuning voor LaTeX-exports, waardoor onderzoekers geformatteerde redeneringslogboeken van agenten rechtstreeks in academische artikelen kunnen invoegen.
Het gaat ook in op de praktische realiteit van het ondernemen van een LLM: de kosten. Het raamwerk omvat een geautomatiseerde module voor het bijhouden van kosten die het tokengebruik van verschillende providers samenvoegt, waardoor laboratoria de burn-rates in realtime kunnen volgen.
Misschien wel het allerbelangrijkste voor een veiligheidsbewust vakgebied is dat Orchestra ‘read-before-edit’-vangrails implementeert. Als de agent een bestand probeert te overschrijven dat hij tijdens de huidige sessie niet heeft gelezen, blokkeert het systeem de actie en vraagt het model om het bestand eerst te lezen. Dit voorkomt de gevreesde ‘blinde overschrijf’-fout van iedereen die een autonome codeeragent gebruikt.
Licentiewaarschuwing
Hoewel Orchestral eenvoudig te installeren is via pip install Orchestral-ai, moeten potentiële gebruikers goed op de licentie letten. In tegenstelling tot de MIT- of Apache-licenties die gebruikelijk zijn in het Python-ecosysteem, wordt Orchestral vrijgegeven onder een Proprietary-licentie.
In de documentatie wordt expliciet vermeld dat “ongeoorloofd kopiëren, verspreiden, wijzigen of gebruiken… ten strengste verboden is zonder voorafgaande schriftelijke toestemming.” Dit “beschikbare bron”-model stelt onderzoekers in staat de code te bekijken en te gebruiken, maar beperkt hen in het vormen of opbouwen van commerciële concurrenten zonder overeenkomst. Dit duidt op het bestaan van een bedrijfsmodel dat zich in de toekomst richt op bedrijfslicenties of een dubbele licentiestrategie.
Bovendien zullen early adopters een voorsprong moeten hebben op de ontwikkelingen in de Python-omgeving: het raamwerk vereist Python 3.13 of hoger, en de ondersteuning voor het veelgebruikte Python 3.12 is expliciet stopgezet vanwege compatibiliteitsproblemen.
Waarom het ertoe doet
“De beschaving gaat vooruit door het aantal belangrijke operaties uit te breiden die we kunnen uitvoeren zonder erover na te denken”, schreven de stichters ervan, daarbij verwijzend naar de wiskundige Alfred North Whitehead.
Orchestra probeert dit te operationaliseren voor het AI-tijdperk. Door de ‘piping’ van API-verbindingen en schemavalidatie weg te abstraheren, wil het wetenschappers in staat stellen zich te concentreren op de logica van hun agenten in plaats van op het unieke karakter van de infrastructuur. Of de academische en ontwikkelaarsgemeenschappen bedrijfseigen tools zullen omarmen in een ecosysteem dat wordt gedomineerd door open source valt nog te bezien, maar voor degenen die verdrinken in asynchrone backtracking en kapotte tool-oproepen, biedt Orchestral de prikkelende belofte van gezond verstand.
