The first ten lines of a command policy for AI coding agents

En una en­tre­vis­ta, Vinay Thak­ker, CTO de KloudS­tax, abor­da la ges­tión de iden­ti­da­des, cre­den­cia­les y lí­mi­tes de red para agen­tes de in­te­li­gen­cia ar­ti­fi­cial. Ex­pli­ca que estos sis­te­mas deben ope­rar con su pro­pia iden­ti­dad di­gi­tal cuan­do rea­li­zan ta­reas para la em­pre­sa, o com­bi­nar su iden­ti­dad con la del usua­rio hu­mano si eje­cu­tan ac­cio­nes es­pe­cí­fi­cas para una sola per­so­na. Asi­mis­mo, se­ña­la que las cre­den­cia­les de larga du­ra­ción deben evi­tar­se y que el uso de ser­vi­do­res proxy ayuda a que los agen­tes no ma­ne­jen di­rec­ta­men­te los se­cre­tos, aun­que ad­vier­te sobre los ries­gos de que un proxy actúe de forma con­fu­sa o cen­tra­li­ce ex­ce­si­va­men­te la au­to­ri­dad.

Para los agen­tes de pro­gra­ma­ción con ac­ce­so a ter­mi­nal, se pro­po­ne una po­lí­ti­ca ba­sa­da en una lista blan­ca es­tric­ta y en la apli­ca­ción de res­tric­cio­nes por parte del en­torno. Entre las di­rec­tri­ces se in­clu­ye li­mi­tar la ac­ti­vi­dad a un único re­po­si­to­rio en un es­pa­cio de tra­ba­jo de­se­cha­ble, per­mi­tir solo co­man­dos y he­rra­mien­tas de com­pi­la­ción o prue­ba apro­ba­dos, blo­quear el ac­ce­so a ar­chi­vos con­fi­den­cia­les como cla­ves de SSH o con­fi­gu­ra­cio­nes de en­torno, y res­trin­gir el ac­ce­so a la red y a re­po­si­to­rios ex­ter­nos de pa­que­tes. Ade­más, se es­ta­ble­cen re­glas para prohi­bir mo­di­fi­ca­cio­nes en ramas pro­te­gi­das y exi­gir la in­ter­ven­ción hu­ma­na ante cual­quier cam­bio en la in­fra­es­truc­tu­ra com­par­ti­da.

Res­pec­to a la se­gu­ri­dad en la red, se re­co­mien­da par­tir sin co­nec­ti­vi­dad y per­mi­tir úni­ca­men­te des­ti­nos es­pe­cí­fi­cos para mi­ti­gar ries­gos de fil­tra­ción de datos a tra­vés de pa­rá­me­tros URL o ins­ta­la­cio­nes de pa­que­tes. Fi­nal­men­te, se acon­se­ja que las eva­lua­cio­nes de equi­pos rojos (red teams) se con­cen­tren en pro­bar los con­tro­les del en­torno que ro­dean al mo­de­lo bajo el su­pues­to de que un ata­que de in­yec­ción ten­drá éxito, y rea­li­zar si­mu­la­cros de in­ci­den­tes gra­dua­les y si­len­cio­sos que pon­gan a prue­ba la ca­pa­ci­dad de de­tec­ción, res­pues­ta y re­cu­pe­ra­ción total tras una se­sión com­pro­me­ti­da.