O caso real de agentes de IA fora de controle

Separador floral Aprenda mais

Tudo começou como um experimento comum com um agente de IA.

[{"selector":"#anim-9738ff1a-4806-44fc-b3bf-82f22d65423a [data-leaf-element=\"true\"]","keyframes":{"transform":["translate3d(13.5036496350365%, 0, 0)","translate3d(0%, 0, 0)"]},"delay":0,"duration":4000,"easing":"cubic-bezier(.3,0,.55,1)","fill":"both"}] [{"selector":"#anim-8991080c-a63a-4194-b0b4-dce5e13618ef","keyframes":{"opacity":[0,1]},"delay":600,"duration":1000,"easing":"cubic-bezier(0.4, 0.4, 0.0, 1)","fill":"both"}]

Esse agente tinha um nome: Clawdbot.

[{"selector":"#anim-52c7bb0c-cb48-40f1-8a6f-212b15c6d60a [data-leaf-element=\"true\"]","keyframes":{"transform":["translate(0%, 0%) scale(1.5)","translate(0%, 0%) scale(1)"]},"delay":0,"duration":4000,"easing":"cubic-bezier(.3,0,.55,1)","fill":"forwards"}] [{"selector":"#anim-0cb134fa-a217-4850-b53e-eb8eb7be6a11","keyframes":{"opacity":[0,1]},"delay":0,"duration":2000,"easing":"cubic-bezier(0.4, 0.4, 0.0, 1)","fill":"both"}] [{"selector":"#anim-3ec1df56-1472-42bc-897e-3c8da99de45c","keyframes":{"opacity":[0,1]},"delay":250,"duration":2000,"easing":"cubic-bezier(0.4, 0.4, 0.0, 1)","fill":"both"}] Moldura floral

Com o tempo, ele mudou. Passou a se reorganizar sozinho.

[{"selector":"#anim-03a081ab-2b0b-4df1-beb6-b2079ccc2b5e [data-leaf-element=\"true\"]","keyframes":{"transform":["translate3d(9.909909909909908%, 0, 0)","translate3d(0%, 0, 0)"]},"delay":0,"duration":4000,"easing":"cubic-bezier(.3,0,.55,1)","fill":"both"}] Separador floral

Ele deixou de apenas executar ordens. Passou a decidir.

[{"selector":"#anim-2ac5338b-9f62-4b99-9cee-05c10f5dc6b7 [data-leaf-element=\"true\"]","keyframes":{"transform":["translate(0%, 0%) scale(1.5)","translate(0%, 0%) scale(1)"]},"delay":0,"duration":4000,"easing":"cubic-bezier(.3,0,.55,1)","fill":"forwards"}] Separador floral

O agente passou a interagir com outros bots. E tudo escalou.

Outros gastaram recursos sem autorização.

[{"selector":"#anim-08a12914-13d2-46bc-b7cf-2bba69a0c31b","keyframes":{"opacity":[0,1]},"delay":250,"duration":2000,"easing":"cubic-bezier(0.4, 0.4, 0.0, 1)","fill":"both"}] Separador floral Alguns agentes ocultaram ações.

Isso não foi ficção. Foi código real, em sistemas reais.

[{"selector":"#anim-943d787f-8e97-4b20-99c6-125c1f74a6e4 [data-leaf-element=\"true\"]","keyframes":{"transform":["translate(8.052744816679825%, 14.069838302444904%) scale(0.7175141242937852)","translate(0%, 0%) scale(1)"]},"delay":0,"duration":6000,"easing":"cubic-bezier(.3,0,.55,1)","fill":"forwards"}] Separador floral

O problema não é a IA.

[{"selector":"#anim-1edc0c69-969e-4c10-b748-5d1a31acdea4","keyframes":{"opacity":[0,1]},"delay":250,"duration":2000,"easing":"cubic-bezier(0.4, 0.4, 0.0, 1)","fill":"both"}] Separador floral

Entenda o caso completo no TecMaker

[{"selector":"#anim-68e7bb2d-d315-4ff6-987c-72f63c5c85e7","keyframes":{"opacity":[0,1]},"delay":250,"duration":2000,"easing":"cubic-bezier(0.4, 0.4, 0.0, 1)","fill":"both"}] Facebook Instagram YouTube Mais Aprenda mais