Evitar que una respuesta de IA prometa algo que no puede cumplir

Para orientación o soporte, define como capacidades distintas explicar información pública, transferir a personal y realizar una reserva. OWASP: Excessive Agency ayuda a diseñar acciones permitidas y aprobaciones. Lo que sigue se centra en los límites de las respuestas, sin procedimientos de envío automático por plataforma.

Aunque una respuesta informativa suene natural, no debe prometer que una persona del equipo hará un seguimiento o asistirá en determinado momento sin pruebas de que esa acción se puede realizar. Este relato generalizado de un flujo interno de respuestas no identifica ninguna plataforma ni conversación.

Definir qué puede explicar el asistente y qué puede hacer

Explicar información pública, confirmar lo que desea alguien y ponerse en contacto o asistir de verdad son capacidades distintas. Indica el papel del asistente en sus instrucciones y aplícalo a las respuestas iniciales, las posteriores y las comprobaciones previas al envío. Aumentar la intensidad del razonamiento no concede autoridad para actuar ni proporciona la agenda de una persona del equipo.

Usar el estado de la conversación, no solo palabras clave

Transmite la publicación original, el intercambio reciente que se haya confirmado, si ya se ofreció orientación, si queda una pregunta por responder y si la conversación terminó. No clasifiques a alguien como interesado en asistir solo porque coincida una palabra cuando ha expresado otra preferencia. Una promesa incorrecta escrita por una IA anterior tampoco demuestra que alguien vaya a cumplirla.

Comprobar quién habla y qué significa antes de enviar

«Una persona del equipo se pondrá en contacto más tarde» es una promesa de quien tendría que actuar. Una cita de la otra persona y una indicación general sobre un evento tienen significados distintos. En vez de prohibir una cadena de texto en todas partes, comprueba el papel, el estado de la conversación y las pruebas de la acción. Retén las respuestas ambiguas y pásalas a una persona cuando sea necesario. También hace falta impedir que se genere una respuesta como si se hubieran consultado las fuentes cuando la recuperación falla o devuelve una respuesta no válida. Esa condición de parada del lado de la recuperación solo se confirmó en el código revisado y en la revisión del PR; no se ha confirmado su funcionamiento en producción.

No confundir expresiones similares ni tipos de solicitud

Distingue una publicación que busca participantes de una persona que expresa su deseo de asistir. Una redacción parecida no hace equivalentes los productos, las ediciones ni las condiciones de uso; no mezcles las indicaciones de distintos entornos. Comprueba también, antes de enviar, los agradecimientos sin fundamento y las respuestas que dan por aceptada a una persona. Aunque se prioricen las respuestas, usa esperas limitadas cuando haya límites de solicitudes y evita duplicados. No registres una espera o una respuesta omitida como un envío correcto.

Volver a comprobar los borradores antiguos con las condiciones actuales

Un borrador que pasó las comprobaciones al generarse puede quedar obsoleto si cambia la conversación o la política. Compruébalo de nuevo con el estado más reciente justo antes del envío y no envíes borradores de conversaciones cerradas. Registra por separado la omisión del envío y el cierre de la conversación, sin confundirlos con un envío correcto. También se puede omitir una respuesta cuando una pregunta innecesaria solo alargaría el intercambio.

1. 1 Leer quién habla y qué pide Comprueba si es una invitación o interés, la edición pertinente y el estado de la conversación.
2. 2 Responder con respaldo Indica solo lo que se puede hacer y vuelve a comprobar justo antes del envío.
3. 3 Poner en espera si hay dudas No consideres consultada una recuperación fallida o mal formada; devuelve el caso a una persona. Limita la espera y evita duplicados.

Qué se comprobó y qué sigue sin demostrarse

Se revisaron la clasificación y los controles previos al envío, se ejecutaron pruebas de regresión, se revisaron borradores generados y se hizo una observación operativa limitada después de la entrega. Esto no demuestra la seguridad ante todas las conversaciones, paráfrasis o cambios de modelo. El envío externo también requiere autorización y aprobación operativas, además de controles de contenido. La condición de parada de recuperación descrita antes solo se revisó en el código y en un PR; su funcionamiento en producción sigue sin verificarse.

Para los límites de entrada de búsqueda, consulta Sincronizar HTML público con Vectorize de forma segura; para la representación, consulta Representar de forma segura enlaces Markdown en respuestas de chat con IA.