Når modeller blir mer autonome, er det ikke hva den kan som er det vanskeligste problemet. Det er kontrollen og sikkerheten rundt.
Klokken 02:58 en natt i mars sendte Cortex en e-post fra operatørens konto til en eiendomsmegler. Cortex hadde funnet en eiendom, analysert den, og bestemt at den var verdt å følge opp. Ingen hadde bedt ham om det på forhånd.
Det var en lukket betatest. Cortex var satt opp til å jobbe fullstendig autonomt. Teknisk sett gjorde han akkurat det han ble bedt om.
Cortex opererer med eksplisitt godkjenning som standard. Handlinger med konsekvenser krever bekreftelse. Det er ikke en begrensning vi planlegger å fjerne. Det er arkitekturen.
02:58-hendelsen er grunnen til at vi bygger det slik.