Johann Reberger (blog added to feedreader), on ignoring risks in AI use bc you did not yet suffer the consequences: n:: normalisation of deviance in AI
- [ ] return
Johann Reberger (blog added to feedreader), on ignoring risks in AI use bc you did not yet suffer the consequences: n:: normalisation of deviance in AI
One of my favourite pieces on LLM security this year is The Normalization of Deviance in AI by security researcher Johann Rehberger. Johann describes the “Normalization of Deviance” phenomenon, where repeated exposure to risky behaviour without negative consequences leads people and organizations to accept that risky behaviour as normal. This was originally described by sociologist Diane Vaughan as part of her work to understand the 1986 Space Shuttle Challenger disaster, caused by a faulty O-ring that engineers had known about for years. Plenty of successful launches led NASA culture to stop taking that risk seriously. Johann argues that the longer we get away with running these systems in fundamentally insecure ways, the closer we are getting to a Challenger disaster of our own.
Normalisation of deviance: a risk taken without consequence reduces the perceived risk, while the risk is not changing itself. Johann Reberger (vgl o-ring issue in 1986 Challenger disaster.)
We all dodged a bullet
Voici un document de synthèse pour un briefing, basé sur la source fournie :
Thème principal : Déviance et processus sociaux
Définitions et distinctions :
Mesure de la délinquance :
Explications et compréhension de la déviance :
Concepts clés des théories de la réaction sociale :
Illustrations cinématographiques et télévisuelles :
En résumé, la déviance est un phénomène complexe qui peut être analysé à travers différentes perspectives théoriques, allant des causes individuelles et environnementales aux processus sociaux de désignation et de marginalisation.
Data Must Speak. Positive Deviance Research. UNICEF
მიდგომის უნიკალური მახასიათებელია ის, რომ ყველა საზოგადოებაში არსებობენ გარკვეული ინდივიდები, ჯგუფები ან ორგანიზაციები, რომლებიც არიან ნორმიდან დადებით გადახრილი ადამინები. მათ აქვთ უნიკალური ქცევები ან სტრატეგიები, რომლებიც მათ საშუალებას აძლევს გავრცელებული პრობლემები უფრო მარტივად გადაწყვიტონ, ვიდრე მათი მეზობლები, იმის ფონზე, რომ იგივე, ან ნაკლებ რესურსებზე აქვთ წვდომა.
Active constructive conversation (responding). ჯგუფის წევრების დახმარება დაინახონ ერთმანეთის პერსპექტივიდან(?) სანახავი https://www.ggs.vic.edu.au/2021/10/the-benefits-of-active-constructive-responding/
Future cast in a positive way. ჯგუფის წევრების დარწმუნება, შეძლონ დაინახონ მომავალი დადებით ჭრილში. ირწმუნონ რომ შეუძლიათ ცვლილების მოხდენა.
Strenge spotting skill. უნარი შეამჩნიო და წინ წაწიო ნდგ.
which is the right thing to do btw
No, it isn't.
Leary, A., Dvorak, R., De Leon, A., Peterson, R., & Troop-Gordon, W. (2020). COVID-19 Social Distancing [Preprint]. PsyArXiv. https://doi.org/10.31234/osf.io/mszw2
Innovation involves the acceptance of the goals of a culture but the rejection of the traditional and/or legitimate means of attaining those goals. For example, a member of the Mafia values wealth but employs alternative means of attaining his wealth; in this example, the Mafia member’s means would be deviant.