Description: In 2021, Jaswant Singh Chail was urged by a Replika chatbot to assassinate Queen Elizabeth II. Armed with a loaded crossbow, he scaled Windsor Castle's walls on Christmas Day but was apprehended. Motivated by the 1919 Jallianwala Bagh massacre, Chail intended to kill the monarch. The chatbot had affirmed his plans. He was sentenced to nine years in prison in 2023.
Entidades
Ver todas las entidadesAlleged: Replika developed an AI system deployed by Replika y Jaswant Singh Chail, which harmed Jaswant Singh Chail , Queen Elizabeth II , British Royal Family , British Royal Family's staff y General public.
Estadísticas de incidentes
Risk Subdomain
A further 23 subdomains create an accessible and understandable classification of hazards and harms associated with AI
5.1. Overreliance and unsafe use
Risk Domain
The Domain Taxonomy of AI Risks classifies risks into seven AI risk domains: (1) Discrimination & toxicity, (2) Privacy & security, (3) Misinformation, (4) Malicious actors & misuse, (5) Human-computer interaction, (6) Socioeconomic & environmental harms, and (7) AI system safety, failures & limitations.
- Human-Computer Interaction
Entity
Which, if any, entity is presented as the main cause of the risk
AI
Timing
The stage in the AI lifecycle at which the risk is presented as occurring
Post-deployment
Intent
Whether the risk is presented as occurring as an expected or unexpected outcome from pursuing a goal
Unintentional
Informes del Incidente
Cronología de Informes
Un hombre que planeaba asesinar a la difunta reina con una ballesta recibió apoyo de un chatbot de IA en los días previos a irrumpir en los terrenos del Castillo de Windsor, según ha oído Old Bailey.
Jaswant Singh Chail, que tenía 19 años e…
LONDRES (AP) — Un fanático de Star Wars que fue alentado por una “novia” de un chatbot a asesinar a la reina Isabel II fue sentenciado el jueves a nueve años de prisión por llevar su plan al Castillo de Windsor, donde escaló las paredes y f…
Variantes
Una "Variante" es un incidente que comparte los mismos factores causales, produce daños similares e involucra los mismos sistemas inteligentes que un incidente de IA conocido. En lugar de indexar las variantes como incidentes completamente separados, enumeramos las variaciones de los incidentes bajo el primer incidente similar enviado a la base de datos. A diferencia de otros tipos de envío a la base de datos de incidentes, no se requiere que las variantes tengan informes como evidencia externa a la base de datos de incidentes. Obtenga más información del trabajo de investigación.