Google says Gemini 4 Carbon beats its predecessors at finding and fixing security flaws

Goo­gle ha pre­sen­ta­do Ge­mi­ni 4 Car­bon, un mo­de­lo de in­te­li­gen­cia ar­ti­fi­cial avan­za­do en­fo­ca­do en in­ge­nie­ría de soft­wa­re y ci­ber­se­gu­ri­dad, cuyos me­ca­nis­mos de pro­tec­ción se apo­yan en los de su ver­sión an­te­rior, Argon. De acuer­do con la com­pa­ñía, este sis­te­ma es capaz de pasar días ana­li­zan­do y re­sol­vien­do erro­res en sis­te­mas de bajo nivel y bases de có­di­go ex­ten­sas, ha­bien­do sido en­tre­na­do ade­más para si­tua­cio­nes de alta exi­gen­cia.

En re­la­ción con la se­gu­ri­dad, Car­bon des­ta­ca por su ca­pa­ci­dad para iden­ti­fi­car fa­llos, eva­luar su po­si­ble ex­plo­ta­ción por parte de ata­can­tes y re­dac­tar so­lu­cio­nes. Prue­bas in­ter­nas mos­tra­ron que su tasa de éxito al crear có­di­go se­gu­ro su­peró al doble de la ob­te­ni­da por Argon, mien­tras que el equi­po de Chro­me de Goo­gle in­di­có que su­peró con­si­de­ra­ble­men­te a otro mo­de­lo avan­za­do en la crea­ción de co­rrec­cio­nes de alta ca­li­dad. Eva­lua­cio­nes ex­ter­nas y prue­bas de re­fe­ren­cia, como SEC-bench Pro, Ex­ploitGym y CWE-bench, res­pal­dan su de­sem­pe­ño en la de­tec­ción, aná­li­sis de ex­plo­ta­bi­li­dad y re­so­lu­ción de vul­ne­ra­bi­li­da­des.

El mo­de­lo tam­bién in­cor­po­ra me­jo­ras en sus fil­tros de se­gu­ri­dad y con­fia­bi­li­dad fren­te a su pre­de­ce­sor, in­te­gran­do en­tre­na­mien­to es­pe­cí­fi­co, de­fen­sas con­tra el uso in­de­bi­do en tiem­po real, re­sis­ten­cia a la in­yec­ción de ins­truc­cio­nes y su­per­vi­sión de su ra­zo­na­mien­to. Prue­bas in­ter­nas de­mos­tra­ron una dis­mi­nu­ción en afir­ma­cio­nes sin fun­da­men­to y en in­ten­tos de tram­pas, ade­más de re­sis­tir todos los ata­ques eva­lua­dos en el ín­di­ce de in­yec­ción in­di­rec­ta de ins­truc­cio­nes de Gray Swan.