You are viewing a single comment's thread from:
RE: Wird KI Amok laufen und wie kann das aussehen?
Dafür gibt es doch die Gesetze von Asimov, um genau solch ein Szenario zu vermeiden.
Dafür gibt es doch die Gesetze von Asimov, um genau solch ein Szenario zu vermeiden.
... hallo Sabih. Danke für Deinen Kommentar.
Im Zeitalter von #DeepLearning, also selbstlernenden Systemen, scheinen mir von Mensch gemachte Regeln möglicherweise unwirksam.
Isaac Asimov ging noch davon aus, die Computer zu programmieren, also quasi zu erziehen und zu regulieren.
Die Forscher bei Facebook mussten vor nicht allzu langer Zeit eine KI (zunächst) abschalten, weil keiner mehr folgen konnte was die KI vorhatte https://motherboard.vice.com/de/article/qv84p7/ausser-kontrolle-geraten-warum-facebook-seine-kunstliche-intelligenz-wirklich-abschalten-musste
Man sollte bedenken, dass es keine KI gibt. Die Beschreibung wird zwar überall genutzt, trifft jedoch bisher nirgendwo zu. Das ist vergleichbar mit den Boards mit zwei Rädern, die man einfach Hoverboards nennt, obwohl es keine sind.
Interessant wäre das genannte Beispiel, hätte einer der beiden einen dritten Bot erschaffen, um seine Position zu stärken. Dabei hätte es zu dieser Möglichkeit keinen Ansatz vom Code her dazu geben dürfen. Das ist aber nicht passiert, sondern die blieben innerhalb des programmierten Rahmens. Das hat mit künstlicher Intelligenz nichts zu tun, sondern ist einfach eine Maximierung von If-Schleifen.