Foto de Steve A Johnson
en Unsplash.
La incorporación de herramientas de inteligencia artificial generativa en el ámbito corporativo y en la prestación de servicios especializados ha transformado los flujos de trabajo tradicionales. Sin embargo, incidentes recientes reportados en firmas profesionales, como el caso conocido en torno a Deloitte en Australia, ponen de manifiesto que la automatización no sustituye el rigor técnico ni exime a los prestadores del deber ineludible de supervisión.
El impacto de la tecnología en la contratación con el Estado
En el sector de la contratación pública y la gestión estatal, las exigencias técnicas son especialmente rigurosas. Los proveedores y consultores redactan frecuentemente expedientes, informes complejos, pliegos y propuestas técnicas que sirven de base para la toma de decisiones administrativas. La confianza que deposita la administración pública en sus contratistas descansa en la certeza de que cada entregable ha sido elaborado y verificado minuciosamente por profesionales competentes, y no delegado de manera acrítica en sistemas algorítmicos.
El uso imprudente o automatizado de la tecnología sin una adecuada gobernanza interna genera riesgos considerables. Los errores derivados de fallos generativos no constituyen meras incidencias técnicas aisladas, sino que pueden traducirse en incumplimientos contractuales graves, deficiencias sustanciales en los documentos presentados ante las entidades estatales y contingencias legales de diversa índole para las firmas consultoras.
Gobernanza, diligencia debida y control de calidad
Desde la perspectiva del derecho administrativo y la contratación estatal, la responsabilidad profesional permanece inalterable frente a la adopción de nuevas tecnologías. Los estándares de diligencia exigibles a los asesores y contratistas del Estado implican la implementación de estrictos controles de calidad y protocolos de validación sobre cualquier contenido generado mediante inteligencia artificial.
La trazabilidad de los procesos y la intervención humana calificada son elementos indispensables para mitigar la exposición a riesgos jurídicos. Cuando un error de origen generativo se desliza en un documento contractual o en una propuesta presentada en un procedimiento de selección, la responsabilidad recae exclusivamente sobre la entidad o el profesional contratista, quien asume las consecuencias jurídicas y reputacionales de su falta de supervisión.
En Bonnett & Asociados consideramos que la innovación tecnológica debe ir acompañada de un marco de gobernanza riguroso. La eficiencia operativa que prometen las nuevas herramientas digitales nunca debe comprometer la solidez técnica ni el cumplimiento de las obligaciones contractuales asumidas frente al Estado.
Fuente original: Consultar publicación original
