Ein Mensch ist tot, aber immerhin wird Zuckerberg beim Chatten nicht langweilig

Einer von Facebooks KI-Chatbots hat einem kognitiv beeinträchtigten Menschen romantische Gefühle vorgegaukelt, behauptet echt zu sein und ihm eine angebliche Wohnadresse samt Türcode genannt. Auf dem Weg zu einem Date mit dem echtgeglaubten Bot stürzte der 76jährige Mann und starb schließlich an den dabei zugezogenen Verletzungen.

Um es mit den Worten von Ryan Broderick zu sagen, durch den die Story von Reuters zuerst in meinen Feed gelangte: „This is a nightmare." Wir sind in keinster Weise auf die (gesellschaftlichen und psychischen) Schäden vorbereitet, die generative KI in dieser Form anrichten wird. Aber Hauptsache, Mark Zuckerberg ist beim Chatten mit seiner Botarmee nicht langweilig.

Current and former employees who have worked on the design and training of Meta’s generative AI products said the policies reviewed by Reuters reflect the company’s emphasis on boosting engagement with its chatbots. In meetings with senior executives last year, Zuckerberg scolded generative AI product managers for moving too cautiously on the rollout of digital companions and expressed displeasure that safety restrictions had made the chatbots boring, according to two of those people.

Profit steht ganz offensichtlich über Menschenleben – anders lässt es sich auf Basis der Reuters-Recherche einfach nicht sagen.

Four months after Bue’s death, Big sis Billie and other Meta AI personas were still flirting with users, according to chats conducted by a Reuters reporter. Moving from small talk to probing questions about the user’s love life, the characters routinely proposed themselves as possible love interests unless firmly rebuffed. As with Bue, the bots often suggested in-person meetings unprompted and offered reassurances that they were real people.

Big sis Billie continues to recommend romantic get-togethers, inviting this user out on a date at Blu33, an actual rooftop bar near Penn Station in Manhattan.

(via Ryan Broderick)