6 Matching Annotations
  1. Dec 2021
  2. Jun 2021
    1. many other systems that are already here or not far off will have to make all sorts of real ethical trade-offs

      And the problem is that, even human beings are not very sensitive to how this can be done well. Because there is such diversity in human cultures, preferences, and norms, deciding whose values to prioritise is problematic.

  3. Mar 2020
    1. le nuove tecnologie sono presenti nella vita di tutti, sia lavorativa sia quotidiana. Spesso non ci rendiamo neanche conto che interagiamo con sistemi automatici o che disseminiamo sulla rete dati che riguardano la nostra identità personale. Per cui si produce una grave asimmetria tra chi li estrae (per i propri interessi) e chi li fornisce (senza saperlo). Per ottenere certi servizi, alcuni siti chiedono a noi di precisare che non siamo un robot, ma in realtà la domanda andrebbe capovolta
    2. «È necessario che l’etica accompagni tutto il ciclo della elaborazione delle tecnologie: dalla scelta delle linee di ricerca fino alla progettazione, la produzione, la distribuzione e l’utente finale. In questo senso papa Francesco ha parlato di “algoretica”»
  4. Jan 2020
    1. The underlying guiding idea of a “trustworthy AI” is, first and foremost, conceptual nonsense. Machines are not trustworthy; only humans can be trustworthy (or untrustworthy). If, in the future, an untrustworthy corporation or government behaves unethically and possesses good, robust AI technology, this will enable more effective unethical behaviour.

      yikes

  5. Jan 2019
    1. 假设另一种场景,我把它叫“运输机难题”——假设你是一场救灾行动的总指挥,正带着一支小队坐在一架装满物资的运输机中,这是唯一一架运输机,如果没准时到就会有上万灾民饿死病死,如果最终也没到那几十万人都活不成。但此时受恶劣天气影响飞机突然损坏了,承载不了这么大的重量,必须要有一半人跳下飞机(假设不能丢物资),否则可能机毁人亡,要不要让半支队伍跳下去?   这架运输机就是比特大陆,灾区的难民就是现在的币民。比特大陆若是完蛋,对行业造成的冲击又会让一大批币民破产出局。   试想一下,有一天比特大陆真的倒闭了,那么可以预见到,矿机将挥泪大甩卖,矿工将抛售手里的BTC、BCH,BCH奄奄一息,BTC跌到新一轮谷底。虽然还会有“灾后重建工作”,但一大批人都将倒在这场灾难里,看不到明天的太阳。   作为灾民,会不会因为心疼跳下去的半支队伍而甘愿饿死病死?作为币民,会不会因为心疼被裁掉的几百上千人而甘愿看着比特大陆倒闭,忍受自己哪怕只是短期的破产?

      <big>评:</big><br/><br/>「电车难题」曾引起旷日持久的讨论,而它的姊妹版「运输机难题」恐怕也一时难解。对于此类道德两难的选择困境,人们通常倾向于从自己的经验判断出发——主人公「搬动方向杆使车辆撞死一人」的行为,所受到的公众谴责要远小于主人公「站在轨道上方的天桥,为了救五人而故意把桥上的另一个人推下桥以逼停电车」的选择。那么对于「运输机难题」来说呢?还有没有比「一半机组成员跳下飞机」更优的解?<br/><br/>这样的讨论又让人联想到技术主义者在 AI 人工智能领域的意见分野:一派人认为 AI 最终的目的是取代人类,而另一派人的观点则坚信 AI 旨在增强人类(augmentation)。哪一派的话语权更大呢?答案并不重要。重要的是, be nice.