Introducción
Vivimos en una época en la que la vigilancia ha dejado de ser una excepción para convertirse en una condición cotidiana de la vida moderna. Cada vez que desbloqueamos el teléfono móvil, realizamos una búsqueda en Internet, utilizamos una tarjeta bancaria, caminamos por una ciudad equipada con cámaras inteligentes o llevamos un reloj capaz de registrar nuestro ritmo cardíaco, generamos un flujo continuo de información sobre quiénes somos, cómo vivimos y cuáles son nuestros hábitos. Lo verdaderamente llamativo no es únicamente la enorme cantidad de datos que producimos, sino que esta recopilación ocurre de forma prácticamente invisible y, en la mayoría de los casos, con nuestra aceptación voluntaria. A diferencia de las formas tradicionales de vigilancia, ya no es necesario que un agente nos observe directamente, basta con que nuestras acciones dejen un rastro digital permanente para que puedan ser analizadas, clasificadas e incluso utilizadas para anticipar futuras decisiones.
Este escenario ha dado lugar a un intenso debate sobre la privacidad, la protección de los datos personales y los límites éticos de la tecnología. Sin embargo, limitar esta discusión únicamente a la privacidad supone simplificar un fenómeno mucho más profundo. La cuestión fundamental no es únicamente quién recoge nuestros datos, sino cómo esa información puede utilizarse para influir en nuestras decisiones, modificar nuestro comportamiento o redefinir las relaciones de poder dentro de la sociedad. En este contexto, una teoría formulada hace más de dos siglos adquiere una sorprendente actualidad. Se trata del panopticismo.
El origen de este concepto se encuentra en el Panóptico, un modelo arquitectónico diseñado por Jeremy Bentham a finales del siglo XVIII con el propósito de construir prisiones más eficientes. Su propuesta consistía en un edificio circular donde un único vigilante, situado en una torre central, podía observar simultáneamente a todos los reclusos sin que estos supieran cuándo estaban siendo observados. La innovación del modelo no residía tanto en la arquitectura como en su impacto psicológico. La incertidumbre permanente llevaba a los presos a comportarse como si la vigilancia fuese constante, aunque el vigilante pudiera no estar mirando en ese momento (Bentham, 1791). El control dejaba así de depender de la fuerza física para apoyarse en la percepción de una posible observación.
Casi dos siglos después, Michel Foucault transformó este diseño penitenciario en una de las teorías más influyentes de las ciencias sociales. En Vigilar y castigar, publicado en 1975, sostuvo que el Panóptico representaba mucho más que una prisión: constituía un modelo de funcionamiento del poder en las sociedades modernas. Según Foucault, las instituciones contemporáneas, como las escuelas, los hospitales, las fábricas, los cuarteles o las prisiones, no ejercen únicamente un control externo sobre las personas, sino que promueven la interiorización de normas y comportamientos hasta el punto de que los propios individuos terminan autocontrolándose. El resultado es una forma de poder especialmente eficiente porque reduce la necesidad de coerción directa y convierte a cada individuo en supervisor de sí mismo (Foucault, 1975).
Aunque Foucault desarrolló su teoría décadas antes de la aparición de Internet, sus planteamientos resultan extraordinariamente pertinentes para comprender la sociedad digital. Hoy ya no existe una torre central desde la que un vigilante observa a todos los ciudadanos. En su lugar encontramos una red distribuida de sensores, plataformas digitales, algoritmos, dispositivos conectados y sistemas de inteligencia artificial que recopilan información de manera continua. La vigilancia se ha descentralizado y, al mismo tiempo, se ha vuelto más omnipresente. Cada interacción con la tecnología genera datos que permiten reconstruir patrones de comportamiento, inferir preferencias, estimar estados emocionales y anticipar decisiones futuras.
Este cambio ha sido impulsado por el desarrollo del Big Data y de la inteligencia artificial. Los algoritmos ya no se limitan a registrar información, sino que son capaces de identificar regularidades, elaborar perfiles extremadamente precisos y realizar predicciones sobre el comportamiento humano con niveles de precisión impensables hace apenas unas décadas. En este nuevo escenario, el objetivo ya no consiste únicamente en observar lo que las personas hacen, sino en comprender por qué lo hacen y, en muchos casos, influir sobre sus decisiones mediante sistemas de recomendación, publicidad personalizada o diseños digitales orientados a captar y mantener la atención. Como señala Shoshana Zuboff (2019), los datos derivados de la experiencia humana se han convertido en la materia prima de un nuevo modelo económico basado en la predicción y modificación del comportamiento.
Paradójicamente, esta transformación no ha venido acompañada de una mayor resistencia social. Muy al contrario, buena parte de la vigilancia contemporánea se produce con la participación activa de los propios ciudadanos. Compartimos voluntariamente fotografías, opiniones, ubicaciones, hábitos deportivos y datos biométricos en redes sociales y aplicaciones móviles porque obtenemos a cambio servicios personalizados, entretenimiento o comodidad. El individuo ya no es únicamente objeto de vigilancia, participa activamente en la producción de la información que permite esa vigilancia. Esta circunstancia supone una diferencia fundamental respecto al modelo clásico de Bentham y constituye uno de los rasgos más característicos del entorno digital.
Sin embargo, reducir esta realidad a una visión exclusivamente negativa sería igualmente erróneo. Las mismas tecnologías que generan incertidumbres éticas también han demostrado un enorme potencial para mejorar la calidad de vida. Los edificios inteligentes optimizan el consumo energético, los sistemas de mantenimiento predictivo reducen averías e incrementan la seguridad, los dispositivos médicos permiten detectar precozmente enfermedades, mientras que las ciudades inteligentes facilitan una gestión más eficiente de la movilidad, la energía y los servicios públicos. La cuestión, por tanto, no es si debemos aceptar o rechazar estas tecnologías, sino cómo diseñarlas y gobernarlas de manera que maximicen el bienestar colectivo sin comprometer derechos fundamentales como la privacidad, la autonomía individual o la libertad de decisión.
Este artículo tiene como objetivo analizar la evolución histórica del panopticismo desde sus orígenes arquitectónicos hasta su manifestación en la sociedad digital contemporánea. Para ello, se examinará el diseño original de Bentham, la reinterpretación filosófica desarrollada por Foucault y la transformación experimentada con la llegada de Internet, el Big Data y la inteligencia artificial. Finalmente, se propondrá una reflexión sobre una nueva etapa evolutiva que podría denominarse Panóptico Cognitivo, caracterizada por el empleo de sistemas inteligentes capaces no solo de observar el comportamiento humano, sino también de anticiparlo e influir sobre él mediante el análisis masivo de datos y la aplicación de conocimientos procedentes de las ciencias del comportamiento.
Comprender esta evolución resulta esencial para afrontar uno de los grandes desafíos del siglo XXI, el garantizar que la tecnología continúe siendo una herramienta al servicio de las personas y no un mecanismo invisible capaz de redefinir silenciosamente su libertad.
Del Panóptico de Bentham al panopticismo de Foucault
La preocupación por la vigilancia y el control social no nació con Internet, ni siquiera con las sociedades industriales. Desde las primeras civilizaciones, los sistemas políticos han buscado mecanismos que permitieran mantener el orden, garantizar el cumplimiento de las normas y reducir los costes asociados al ejercicio del poder. Imperios como el romano desarrollaron complejas redes administrativas y militares para supervisar vastos territorios, mientras que durante la Edad Media el control social recaía principalmente en instituciones como la Iglesia, los gremios y las comunidades locales. Sin embargo, fue a finales del siglo XVIII, en plena Ilustración y coincidiendo con el inicio de la Revolución Industrial, cuando apareció una propuesta que transformaría profundamente la forma de entender la vigilancia, denominada el Panóptico y diseñada por Jeremy Bentham.
Bentham (1791), filósofo inglés y uno de los principales representantes del utilitarismo, concebía la organización social desde un criterio de eficiencia. Su objetivo era diseñar instituciones capaces de maximizar el bienestar colectivo reduciendo al mismo tiempo los costes económicos y organizativos. En este contexto propuso una prisión circular en cuyo centro se situaba una torre de observación desde la que un único vigilante podía supervisar simultáneamente a todos los reclusos. Las celdas estaban abiertas hacia la torre mediante grandes ventanales, mientras que el diseño impedía a los presos saber si el vigilante estaba realmente observándolos en cada momento.
Lo verdaderamente revolucionario de esta propuesta no era la arquitectura, sino el mecanismo psicológico que desencadenaba. El preso no necesitaba ser vigilado constantemente; bastaba con que existiera la posibilidad permanente de estar siéndolo. La incertidumbre llevaba a los internos a regular espontáneamente su conducta, convirtiendo la vigilancia potencial en una forma de autocontrol. El Panóptico demostraba que el poder podía ejercerse de manera mucho más eficiente modificando las expectativas del individuo que recurriendo continuamente a la fuerza física.
Bentham imaginó este modelo principalmente para prisiones, aunque posteriormente defendió su aplicación en hospitales, escuelas, fábricas e incluso edificios administrativos. Su convicción era que una supervisión racional mejoraría el funcionamiento de cualquier organización. Paradójicamente, el propio Bentham entendía el Panóptico como un avance humanitario respecto a las formas tradicionales de castigo, ya que permitía sustituir buena parte de la violencia física por un sistema basado en la observación y la disciplina.
Durante casi dos siglos, el Panóptico permaneció como una curiosidad arquitectónica hasta que Michel Foucault le otorgó un significado completamente distinto. En Vigilar y castigar (1975), el filósofo francés utilizó el Panóptico como metáfora para explicar la transformación del poder en las sociedades modernas. Según Foucault, el modelo de Bentham representaba la esencia de un nuevo tipo de poder mucho más sofisticado que el ejercido por las monarquías absolutas.
En las sociedades premodernas, el poder se manifestaba de forma visible mediante castigos públicos, ejecuciones o demostraciones de fuerza destinadas a infundir temor. El objetivo consistía en mostrar la autoridad del soberano. Sin embargo, con el desarrollo de los Estados modernos surgió una lógica distinta. El poder dejó de centrarse en castigar para orientarse hacia la producción de individuos obedientes, previsibles y útiles para la sociedad. En lugar de intervenir únicamente cuando aparecía una infracción, comenzó a organizar el comportamiento cotidiano mediante normas, horarios, evaluaciones y sistemas permanentes de supervisión.
Para Foucault, el Panóptico simbolizaba precisamente este cambio. La vigilancia ya no dependía de la presencia constante del vigilante, sino que terminaba siendo interiorizada por quienes eran observados. El individuo acababa incorporando las normas sociales hasta el punto de convertirse en el principal controlador de su propia conducta. Esta idea resulta especialmente poderosa porque desplaza el análisis del poder desde las instituciones hacia los propios sujetos. El éxito del sistema no consiste en obligar continuamente a obedecer, sino en lograr que las personas deseen comportarse conforme a las expectativas sociales.
Esta lógica disciplinaria se extendió progresivamente a múltiples instituciones. La escuela organiza horarios, distribuye a los alumnos en aulas, establece exámenes y clasificaciones. Los hospitales registran constantes vitales, historiales médicos y protocolos asistenciales. Las fábricas controlan tiempos de producción, productividad y rendimiento. Los cuarteles regulan movimientos, uniformidad y obediencia. Incluso las oficinas modernas incorporan indicadores de desempeño y sistemas de evaluación continua. Aunque cada institución persigue objetivos distintos, todas comparten un mismo principio, el hacer visible el comportamiento para poder medirlo, compararlo y corregirlo cuando se aparta de la norma.
Uno de los conceptos centrales introducidos por Foucault es el de normalización. El poder disciplinario no distingue únicamente entre lo permitido y lo prohibido, sino que establece estándares sobre lo que se considera normal. Las personas aprenden desde edades tempranas cuáles son las conductas aceptables y cuáles se desvían de las expectativas sociales. De esta forma, la disciplina deja de depender exclusivamente de sanciones externas y pasa a integrarse en la propia identidad de los individuos. La vigilancia se convierte, en gran medida, en un proceso psicológico.
Décadas después, diversas investigaciones experimentales respaldaron esta intuición. Un estudio especialmente conocido realizado por Bateson, Nettle y Roberts (2006) demostró que la simple presencia de una imagen de unos ojos observando aumentaba significativamente la honestidad de las personas al pagar bebidas en una cafetería de autoservicio. De forma similar, Haley y Fessler (2005) comprobaron que estímulos visuales asociados a la observación incrementaban los comportamientos cooperativos incluso cuando los participantes sabían racionalmente que nadie los estaba vigilando. Estos resultados sugieren que el cerebro humano responde de manera especialmente sensible a cualquier indicio de observación social, un mecanismo que probablemente posee un importante origen evolutivo relacionado con la reputación y la cooperación dentro de los grupos.
Otros experimentos clásicos, como los estudios de conformidad de Asch (1951), la obediencia a la autoridad de Milgram (1963) o la simulación penitenciaria de Zimbardo (1971), aunque no fueron concebidos específicamente para estudiar el panopticismo, muestran cómo la percepción de normas, autoridad o supervisión modifica profundamente la conducta humana. En conjunto, estas investigaciones proporcionan un sólido respaldo empírico a la idea de que gran parte del comportamiento social está condicionado por la percepción —real o imaginada— de que nuestras acciones pueden ser observadas y evaluadas por otros.
Esta evolución conceptual permitió comprender que el verdadero legado del Panóptico no era un edificio, sino un principio organizativo del poder. Sin embargo, ni Bentham ni Foucault pudieron anticipar la magnitud del cambio que produciría la revolución digital. Si el Panóptico clásico necesitaba una torre central para observar a los individuos, la tecnología contemporánea eliminaría incluso esa necesidad. La vigilancia dejaría de depender de un lugar físico para integrarse en millones de dispositivos conectados capaces de registrar, almacenar y analizar cada interacción cotidiana. Es precisamente en este punto donde comienza una nueva etapa histórica, la transformación de la tecnología en el auténtico panóptico del siglo XXI.
La tecnología como nuevo panóptico
Si Jeremy Bentham diseñó una arquitectura para hacer visible el comportamiento humano y Michel Foucault convirtió ese diseño en una metáfora del funcionamiento del poder moderno, la revolución digital ha llevado ambos planteamientos a una dimensión difícilmente imaginable hace apenas unas décadas. La diferencia fundamental es que el nuevo Panóptico ya no necesita una torre central ni un vigilante claramente identificable. La vigilancia se ha distribuido entre millones de dispositivos conectados, plataformas digitales y algoritmos que recopilan información de manera continua y prácticamente imperceptible.
En la actualidad, la observación ya no constituye un acto puntual, sino un proceso permanente integrado en la vida cotidiana. Cada interacción con la tecnología deja una huella digital. Buscar una dirección en el teléfono móvil, realizar una compra con tarjeta, utilizar un asistente virtual, acceder a una red social o simplemente caminar con un reloj inteligente supone la generación de datos que describen aspectos cada vez más precisos de nuestra vida. Estos registros permiten conocer no solo dónde estamos o qué hacemos, sino también nuestros horarios, rutinas, relaciones personales, hábitos de consumo, patrones de movilidad e incluso determinados estados fisiológicos.
A diferencia del Panóptico original, donde el vigilante debía observar directamente al individuo, el nuevo modelo registra automáticamente la conducta mediante sensores y sistemas informáticos distribuidos.
Este cambio ha sido posible gracias al desarrollo del Big Data, entendido como la capacidad de almacenar y procesar enormes volúmenes de información procedentes de múltiples fuentes. Sin embargo, la importancia del Big Data no reside únicamente en la cantidad de datos disponibles, sino en la posibilidad de relacionarlos entre sí para descubrir patrones de comportamiento imposibles de detectar mediante métodos tradicionales. Un dato aislado posee un valor limitado, pero millones de datos interconectados permiten reconstruir con gran precisión la vida cotidiana de una persona. Como señalan Mayer-Schönberger y Cukier (2013), el verdadero poder del Big Data no consiste en explicar el pasado, sino en identificar regularidades capaces de anticipar acontecimientos futuros.
La inteligencia artificial ha multiplicado todavía más estas posibilidades. Mientras que los primeros sistemas informáticos se limitaban a almacenar información, los algoritmos actuales son capaces de aprender de los datos, identificar correlaciones complejas y generar modelos predictivos sobre el comportamiento humano. Este cambio supone una transformación profunda del concepto de vigilancia.
El objetivo ya no consiste únicamente en saber qué ha hecho una persona, sino en estimar qué probablemente hará en el futuro. Sistemas de recomendación, motores de búsqueda, plataformas de vídeo bajo demanda o redes sociales utilizan continuamente modelos predictivos para seleccionar qué contenidos mostrar, qué productos recomendar o qué anuncios poseen mayor probabilidad de influir sobre cada usuario.
El verdadero valor del Big Data no está en interpretar lo que ya ha ocurrido, sino en descubrir patrones suficientemente consistentes como para predecir el futuro.
En este contexto, Shoshana Zuboff (2019) introdujo el concepto de capitalismo de la vigilancia, una de las aportaciones más influyentes para comprender la economía digital contemporánea. Según esta autora, las grandes plataformas tecnológicas han desarrollado un modelo de negocio basado en transformar la experiencia humana en datos susceptibles de ser analizados, comercializados y utilizados para predecir el comportamiento futuro. El usuario deja de ser únicamente consumidor de servicios digitales para convertirse también en proveedor involuntario de una materia prima extremadamente valiosa, la información sobre su propia conducta. Cuanto más precisa es esa información, mayor resulta la capacidad de personalizar productos, servicios y mensajes publicitarios.
No obstante, la capacidad de predicción representa solo una parte del fenómeno. Diversos autores sostienen que los sistemas digitales actuales no se limitan a anticipar decisiones, sino que también contribuyen a moldearlas. Richard Thaler y Cass Sunstein (2008), desde la economía conductual, demostraron que pequeñas modificaciones en el entorno donde se toman decisiones, los denominados nudges o «empujones», pueden influir significativamente en el comportamiento sin eliminar formalmente la libertad de elección. Cuando estos principios se integran con algoritmos capaces de personalizar la experiencia de cada usuario, el potencial de influencia aumenta considerablemente.
La arquitectura digital deja de ser un espacio neutral para convertirse en un entorno diseñado estratégicamente para orientar la atención y favorecer determinadas acciones.
Las redes sociales constituyen probablemente el ejemplo más representativo de esta transformación. Plataformas como Facebook, Instagram, TikTok o LinkedIn no solo permiten compartir información, sino que también registran el tiempo que dedicamos a cada publicación, las personas con las que interactuamos, los contenidos que ignoramos, nuestras reacciones emocionales y nuestros intereses cambiantes. Cada desplazamiento de la pantalla, cada clic y cada segundo de permanencia alimentan algoritmos que refinan continuamente el perfil digital del usuario. El resultado es un ecosistema capaz de adaptar la información mostrada a las preferencias individuales, incrementando el tiempo de uso y la probabilidad de interacción.
Paradójicamente, este nuevo Panóptico presenta una diferencia esencial respecto al descrito por Bentham y Foucault y que se basa en la participación voluntaria del propio individuo. En el Panóptico clásico, el preso era vigilado contra su voluntad. En la sociedad digital, millones de personas comparten diariamente fotografías, opiniones, datos biométricos, hábitos deportivos o información sobre su ubicación porque obtienen a cambio servicios útiles, reconocimiento social o entretenimiento. La vigilancia deja de percibirse como una imposición para convertirse en un intercambio aparentemente beneficioso. Como consecuencia, el proceso de recopilación de datos resulta mucho menos visible y genera una resistencia considerablemente menor.
Este fenómeno conecta con otro concepto especialmente relevante, la economía de la atención. Herbert Simon ya advirtió en la década de 1970 que, en una sociedad rica en información, el recurso verdaderamente escaso sería la atención humana. Hoy, las plataformas digitales compiten precisamente por captar y mantener esa atención mediante diseños cuidadosamente optimizados gracias a la inteligencia artificial. Las notificaciones, el desplazamiento (scrolling) infinito, la reproducción automática de contenidos o los sistemas de recompensa variable constituyen ejemplos de estrategias orientadas a prolongar la interacción del usuario. La vigilancia ya no persigue únicamente observar el comportamiento, sino que necesita comprender los mecanismos psicológicos que lo generan para influir sobre ellos de forma cada vez más precisa.
Desde esta perspectiva, el nuevo Panóptico no puede entenderse únicamente como un sistema tecnológico. Se trata de un ecosistema donde convergen inteligencia artificial, ciencia de datos, psicología, neurociencia y economía conductual para observar, interpretar y modelar el comportamiento humano. La vigilancia ha dejado de ser un proceso exclusivamente retrospectivo para convertirse en un mecanismo predictivo y, en determinadas circunstancias, también persuasivo. El centro del poder ya no reside únicamente en quien posee la capacidad de observar, sino en quien controla los algoritmos capaces de transformar millones de datos en conocimiento sobre la conducta humana.
Este cambio obliga a replantear profundamente el significado del panopticismo en el siglo XXI. Si Bentham pretendía construir una arquitectura eficiente para supervisar a los individuos y Foucault describió cómo esa lógica disciplinaria se extendía a las instituciones modernas, la revolución digital ha dado lugar a una forma de vigilancia distribuida, continua y basada en datos, donde la frontera entre observación, predicción e influencia resulta cada vez más difusa. Comprender esta evolución es imprescindible para analizar las oportunidades y los riesgos que plantea la incorporación masiva de tecnologías inteligentes en ámbitos como las ciudades, la salud, el trabajo o la educación, aspectos que se abordarán en el siguiente apartado.
Vivir dentro del nuevo Panóptico
El panopticismo suele asociarse inmediatamente con pérdida de privacidad, vigilancia masiva o control social. Sin embargo, reducir el debate a una confrontación entre vigilancia y libertad constituye una simplificación que impide comprender la complejidad del fenómeno.
La misma tecnología que permite registrar millones de datos sobre la actividad humana también está contribuyendo a mejorar la seguridad, optimizar el consumo energético, prevenir enfermedades o hacer más sostenibles las ciudades. El verdadero desafío no consiste en decidir si debemos utilizar estas tecnologías, sino en determinar bajo qué principios éticos, jurídicos y sociales deben diseñarse y gobernarse.
El nuevo Panóptico no es, por definición, ni beneficioso ni perjudicial. Sus consecuencias dependen de quién controla los datos, con qué finalidad los utiliza y qué mecanismos de supervisión democrática existen sobre dichos procesos.
Uno de los ejemplos más representativos se encuentra en el desarrollo de las Smart Cities. Las ciudades inteligentes incorporan miles de sensores distribuidos por el espacio urbano para medir variables relacionadas con el tráfico, la calidad del aire, el consumo energético, la ocupación de aparcamientos, el alumbrado público o el uso de los servicios municipales. Gracias a esta información es posible optimizar recursos, reducir emisiones contaminantes, mejorar la movilidad y ofrecer servicios públicos más eficientes. De forma similar, los edificios inteligentes utilizan sensores para ajustar automáticamente la climatización, la iluminación o la ventilación en función de la ocupación real de los espacios, reduciendo el consumo energético y mejorando el confort de los usuarios. Sin embargo, estos mismos sistemas son capaces de generar información extremadamente detallada sobre los patrones de comportamiento de las personas. Un edificio inteligente puede conocer los horarios habituales de entrada y salida de sus ocupantes, las zonas más utilizadas, los desplazamientos internos e incluso determinadas preferencias ambientales. Una ciudad equipada con cámaras inteligentes, lectores automáticos de matrículas, sistemas de reconocimiento facial o sensores de movilidad puede reconstruir con gran precisión los recorridos cotidianos de miles de ciudadanos. La diferencia respecto al Panóptico clásico es que ya no existe un único vigilante observando desde una torre, sino una red distribuida de dispositivos que registran continuamente la actividad urbana sin que la mayoría de los ciudadanos sea plenamente consciente de ello.
En el ámbito sanitario, la situación resulta igualmente ambivalente. La proliferación de dispositivos wearables, como los relojes inteligentes, las pulseras de actividad o los sensores biomédicos, ha revolucionado la medicina preventiva. Hoy es posible monitorizar variables como la frecuencia cardíaca, el sueño, la actividad física, los niveles de glucosa o incluso determinados indicadores relacionados con el estrés. Estos datos permiten detectar precozmente alteraciones clínicas, personalizar tratamientos y fomentar hábitos de vida más saludables. La pandemia de COVID-19 puso de manifiesto el enorme potencial de las tecnologías digitales para realizar seguimiento epidemiológico, gestionar recursos sanitarios y apoyar la investigación biomédica. No obstante, la información relacionada con la salud constituye una de las categorías de datos más sensibles desde el punto de vista ético. El acceso no autorizado a este tipo de información podría dar lugar a situaciones de discriminación laboral, exclusión aseguradora o utilización comercial no consentida. Además, la integración de inteligencia artificial en sistemas sanitarios plantea nuevos interrogantes sobre la transparencia de los algoritmos, la responsabilidad clínica y la necesidad de supervisión humana en procesos de toma de decisiones.
El entorno laboral representa otro escenario donde el nuevo Panóptico ha adquirido una presencia creciente. La expansión del teletrabajo y de las plataformas digitales ha favorecido el desarrollo de herramientas capaces de registrar tiempos de conexión, actividad informática, productividad, ubicación geográfica e incluso determinados indicadores de rendimiento. Algunas organizaciones utilizan estos sistemas con el objetivo de mejorar la eficiencia, identificar necesidades formativas o distribuir mejor las cargas de trabajo. Sin embargo, cuando la monitorización se convierte en un mecanismo de vigilancia permanente puede generar efectos contraproducentes como incremento del estrés, disminución de la confianza organizacional o aparición de comportamientos orientados a satisfacer los indicadores en lugar de los objetivos reales de la organización. En otras palabras, existe el riesgo de que las personas terminen trabajando para el sistema de evaluación en lugar de hacerlo para aportar verdadero valor.
La educación tampoco permanece al margen de esta transformación. Las plataformas de aprendizaje registran tiempos de estudio, resultados académicos, participación en actividades, progresión individual y patrones de aprendizaje. Esta información permite personalizar itinerarios educativos y detectar precozmente dificultades de aprendizaje. Sin embargo, también plantea interrogantes sobre la construcción de perfiles permanentes de los estudiantes, la posible estigmatización derivada de determinados indicadores y el riesgo de reducir el aprendizaje a aquello que resulta fácilmente medible mediante algoritmos.
Otro ámbito especialmente controvertido es el empleo del reconocimiento facial y de los sistemas predictivos aplicados a la seguridad pública. Diversos cuerpos policiales utilizan actualmente inteligencia artificial para identificar personas, localizar individuos buscados o analizar zonas con mayor probabilidad de concentración delictiva. Estas herramientas pueden mejorar la eficacia de las investigaciones y optimizar la asignación de recursos policiales. Sin embargo, numerosos estudios han advertido sobre la existencia de sesgos algorítmicos asociados a determinados sistemas de reconocimiento facial, especialmente en función del sexo, la edad o el origen étnico de las personas analizadas (Buolamwini & Gebru, 2018). Estos sesgos evidencian que los algoritmos no son neutrales, pues aprenden a partir de los datos disponibles y pueden reproducir o amplificar desigualdades ya existentes si no son cuidadosamente diseñados y auditados.
Ante este panorama, el debate ético ya no puede limitarse exclusivamente a la privacidad. Conceptos como transparencia algorítmica, explicabilidad, responsabilidad, gobernanza del dato, equidad o supervisión humana adquieren una relevancia creciente. Organismos internacionales como la UNESCO (2021), la Comisión Europea (2024) o la OCDE han insistido en que el desarrollo de la inteligencia artificial debe estar guiado por principios centrados en la persona, garantizando que las decisiones automatizadas sean comprensibles, auditables y respetuosas con los derechos fundamentales.
En este sentido, quizá el mayor riesgo del nuevo Panóptico no sea la existencia de tecnologías capaces de observar nuestro comportamiento, sino la progresiva normalización de esa observación. Igual que Foucault describía cómo las sociedades disciplinarias conseguían que los individuos interiorizaran la vigilancia, la sociedad digital corre el riesgo de asumir como inevitable una monitorización constante a cambio de comodidad, personalización o seguridad. Cuando la observación permanente deja de percibirse como una excepción y pasa a convertirse en la norma, la capacidad crítica de la ciudadanía puede debilitarse silenciosamente.
No obstante, sería un error concluir que la solución pasa por renunciar a estas tecnologías. Los avances en inteligencia artificial, Internet de las Cosas o analítica de datos poseen un enorme potencial para afrontar algunos de los grandes retos del siglo XXI, desde la transición energética hasta el envejecimiento de la población o la prevención del delito. La cuestión esencial consiste en diseñar sistemas que sitúen a las personas en el centro, incorporando mecanismos efectivos de transparencia, control democrático y protección de los derechos individuales. Solo desde esa perspectiva será posible aprovechar los beneficios del nuevo Panóptico sin convertir la eficiencia tecnológica en un argumento que justifique una vigilancia ilimitada.
Del panopticismo al Panóptico Cognitivo
La evolución del panopticismo descrita en los apartados anteriores pone de manifiesto que la vigilancia ha experimentado una transformación mucho más profunda que un simple cambio tecnológico. Desde la torre central concebida por Bentham hasta los algoritmos actuales de inteligencia artificial existe un mismo hilo conductor: la búsqueda de mecanismos cada vez más eficientes para comprender, anticipar y orientar el comportamiento humano. Sin embargo, la velocidad con la que evolucionan las tecnologías digitales hace pensar que incluso el concepto clásico de panopticismo comienza a resultar insuficiente para describir la realidad contemporánea. En este sentido, la propuesta pasaría por una evolución conceptual que permita interpretar el escenario emergente, el Panóptico Cognitivo.
La historia del panopticismo puede entenderse como una sucesión de cinco etapas. La primera corresponde al Panóptico Arquitectónico, representado por el modelo penitenciario de Bentham, donde el control dependía de la disposición física del espacio y de la incertidumbre sobre la presencia del vigilante. La segunda es el Panóptico Institucional, desarrollado por Foucault, en el que esa lógica de vigilancia se extiende a escuelas, hospitales, fábricas, cuarteles y prisiones, transformando la disciplina en un mecanismo cotidiano de organización social. Con la llegada de Internet surge una tercera etapa, el Panóptico Digital, caracterizada por la recopilación masiva de datos procedentes de dispositivos conectados, plataformas digitales y redes de comunicación. Posteriormente aparece el Panóptico Algorítmico, donde la inteligencia artificial deja de limitarse a registrar información para analizarla, clasificarla y generar predicciones sobre el comportamiento humano. Finalmente, estas transformaciones desembocan en una quinta fase que podríamos denominar Panóptico Cognitivo, en la que el objetivo ya no consiste únicamente en observar o predecir acciones, sino en comprender e influir sobre los procesos mentales que las originan.
La principal diferencia entre el Panóptico Algorítmico y el Panóptico Cognitivo reside precisamente en el objeto de análisis. Mientras el primero trabaja fundamentalmente con patrones de comportamiento observables, el segundo incorpora conocimientos procedentes de la neurociencia, la psicología cognitiva, la economía conductual y las ciencias del comportamiento para intervenir sobre variables como la atención, la motivación, la percepción, la toma de decisiones o las emociones. El dato deja de ser únicamente descriptivo para convertirse en una herramienta destinada a comprender cómo piensa el individuo y cómo puede modificarse su conducta de manera cada vez más precisa.
Esta evolución resulta especialmente visible en los sistemas digitales contemporáneos. Los algoritmos actuales no solo analizan qué contenidos consumimos, sino también cuánto tiempo mantenemos la atención sobre ellos, qué estímulos generan una respuesta emocional más intensa, en qué momento abandonamos una tarea o qué secuencia de mensajes incrementa la probabilidad de realizar una compra. La inteligencia artificial aprende continuamente de estas interacciones y adapta el entorno digital en función de cada usuario. El resultado es una experiencia profundamente personalizada que, aunque incrementa la comodidad y la eficiencia, también amplía la capacidad de influencia sobre nuestras decisiones.
Un ejemplo especialmente ilustrativo se encuentra en la denominada economía de la atención. Plataformas digitales, aplicaciones móviles y servicios de entretenimiento emplean modelos predictivos para optimizar el tiempo de permanencia de los usuarios mediante sistemas de recomendación, notificaciones inteligentes o mecanismos de recompensa variable. Estas estrategias no buscan únicamente captar la atención; pretenden comprender los procesos psicológicos que la regulan para mantenerla durante el mayor tiempo posible. Desde esta perspectiva, la atención humana se convierte en un recurso económico cuya gestión depende crecientemente de algoritmos entrenados para maximizar determinados objetivos comerciales.
La misma lógica comienza a extenderse a otros ámbitos. Los edificios inteligentes pueden adaptar automáticamente la iluminación, la temperatura o el nivel acústico para favorecer la concentración y el bienestar de los ocupantes. Las plataformas educativas personalizan contenidos según el ritmo de aprendizaje de cada estudiante. Los sistemas sanitarios utilizan inteligencia artificial para anticipar riesgos clínicos y recomendar intervenciones preventivas. Incluso las ciudades inteligentes empiezan a diseñar espacios públicos apoyándose en datos sobre movilidad, comportamiento ciudadano o percepción de seguridad. En todos estos casos, la tecnología deja de limitarse a reaccionar frente a las acciones humanas y comienza a configurar activamente el contexto donde esas acciones tienen lugar.
Este cambio conecta directamente con disciplinas emergentes como la neuroarquitectura, el diseño conductual (behavioural design), el Crime Prevention Through Environmental Design (CPTED) o la economía conductual. Todas ellas comparten una idea fundamental: el entorno físico y digital influye significativamente sobre el comportamiento humano. La disposición de los espacios, la iluminación, los colores, la señalización, la organización de la información o la secuencia de estímulos digitales pueden favorecer determinadas decisiones sin recurrir a órdenes explícitas ni restricciones directas. El poder ya no necesita imponerse, basta con diseñar cuidadosamente el contexto donde se produce la decisión.
Esta perspectiva obliga a replantear también el concepto tradicional de libertad. Habitualmente entendemos que una persona actúa libremente cuando dispone de varias opciones entre las que elegir. Sin embargo, si el entorno ha sido configurado mediante inteligencia artificial para aumentar sistemáticamente la probabilidad de seleccionar una determinada alternativa, la frontera entre persuasión legítima y manipulación comienza a difuminarse. El debate deja entonces de centrarse exclusivamente en la privacidad para incorporar cuestiones relacionadas con la autonomía cognitiva, la capacidad crítica y el derecho de las personas a comprender cómo los sistemas inteligentes influyen sobre sus decisiones.
Precisamente por ello, el Panóptico Cognitivo no debe interpretarse necesariamente como una amenaza inevitable. Al igual que ocurrió con las etapas anteriores, su impacto dependerá del marco ético y regulatorio que acompañe su desarrollo. Utilizado de forma responsable, puede contribuir a mejorar la educación personalizada, la prevención sanitaria, la sostenibilidad urbana, la accesibilidad o la seguridad ciudadana. Sin embargo, sin mecanismos adecuados de transparencia, supervisión y rendición de cuentas, también podría favorecer nuevas formas de manipulación, discriminación o concentración del poder informacional.
En definitiva, la evolución del panopticismo muestra que la historia de la vigilancia siempre ha sido, en realidad, la historia del conocimiento sobre el comportamiento humano. Si Bentham diseñó espacios para observar cuerpos y Foucault explicó cómo las instituciones disciplinaban conductas, la inteligencia artificial comienza ahora a intervenir sobre procesos cognitivos mucho más complejos. El verdadero desafío del siglo XXI no consiste únicamente en decidir cuánto queremos ser observados, sino en determinar hasta qué punto estamos dispuestos a permitir que sistemas inteligentes aprendan a comprender nuestra mente para influir sobre nuestras decisiones. Ese será, probablemente, uno de los grandes debates científicos, tecnológicos y éticos de las próximas décadas.
Referencias
- Asch, S. E. (1951). Effects of group pressure upon the modification and distortion of judgments. En H. Guetzkow (Ed.), Groups, Leadership and Men (pp. 177–190). Carnegie Press.
- Bateson, M., Nettle, D., & Roberts, G. (2006). Cues of being watched enhance cooperation in a real-world setting. Biology Letters, 2(3), 412–414. https://doi.org/10.1098/rsbl.2006.0509
- Bentham, J. (1791/1995). The Panopticon Writings. Verso.
- Buolamwini, J., & Gebru, T. (2018). Gender shades: Intersectional accuracy disparities in commercial gender classification. Proceedings of Machine Learning Research, 81, 1–15.
- Deleuze, G. (1992). Postscript on the societies of control. October, 59, 3–7.
- European Commission. (2024). Regulation (EU) 2024/1689 laying down harmonised rules on artificial intelligence (Artificial Intelligence Act). Official Journal of the European Union.
- Floridi, L. (2014). The Fourth Revolution: How the Infosphere is Reshaping Human Reality. Oxford University Press.
- Floridi, L. (Ed.). (2023). The Ethics of Artificial Intelligence: Principles, Challenges, and Opportunities. Oxford University Press.
- Foucault, M. (1975). Surveiller et punir: Naissance de la prison. Gallimard.
- Foucault, M. (1978). The History of Sexuality. Volume I: An Introduction. Pantheon Books.
- Haley, K. J., & Fessler, D. M. T. (2005). Nobody’s watching? Subtle cues affect generosity in an anonymous economic game. Evolution and Human Behavior, 26(3), 245–256.
- Mayer-Schönberger, V., & Cukier, K. (2013). Big Data: A Revolution That Will Transform How We Live, Work, and Think. Houghton Mifflin Harcourt.
- Milgram, S. (1963). Behavioral study of obedience. Journal of Abnormal and Social Psychology, 67(4), 371–378.
- Nissenbaum, H. (2010). Privacy in Context: Technology, Policy, and the Integrity of Social Life. Stanford University Press.
- Organisation for Economic Co-operation and Development (OECD). (2019). OECD Principles on Artificial Intelligence. OECD Publishing.
- O’Neil, C. (2016). Weapons of Math Destruction: How Big Data Increases Inequality and Threatens Democracy. Crown Publishing.
- Simon, H. A. (1971). Designing organizations for an information-rich world. En M. Greenberger (Ed.), Computers, Communications, and the Public Interest (pp. 37–72). Johns Hopkins University Press.
- Thaler, R. H., & Sunstein, C. R. (2008). Nudge: Improving Decisions About Health, Wealth, and Happiness. Yale University Press.
- UNESCO. (2021). Recommendation on the Ethics of Artificial Intelligence. UNESCO.
- Zimbardo, P. G. (1973). On the ethics of intervention in human psychological research: With special reference to the Stanford Prison Experiment. Cognition, 2(2), 243–256.
- Zuboff, S. (2019). The Age of Surveillance Capitalism: The Fight for a Human Future at the New Frontier of Power. PublicAffairs.
