Künstliche „Schwindelligenz“ im Rathaus

Kom­men­tar«
Auf der Home­page der Stadt­ver­wal­tung gibt es jetzt ei­nen „Chat­bot“, der mit so­ge­nann­ter „Künst­li­cher In­tel­li­genz“ (KI) Fra­gen be­ant­wor­tet. Ent­wi­ckelt von der Firma Ti­vio aus Korb.

Und: Diese KI lügt.

Ein sol­cher­art neues Tech­nik-Spiel­zeug hat – wie je­den Mann – auch den „Schoblatt“-Admin so­fort be­geis­tert und er stellte den Ro­bo­ter auch gleich mit ei­ner Frage auf die Probe.

Das Erst­beste, was ihm ein­fiel: „Wie stark hat sich der Bau der neuen Bü­che­rei ver­teu­ert?“

Prompt ant­wor­tete der Bot: von 11,4 Mil­lio­nen Euro auf 13,3 Mil­lio­nen Euro.

„Mo­ment mal!“ rief ich.

Ganz am An­fang hieß es doch, dass der Bau nicht mehr als 5 Mil­lio­nen Euro teuer wer­den dürfe!

Dies warf der Ad­min dem Ro­bo­ter an den nicht vor­han­de­nen Kopf.

Wor­auf­hin die­ser be­haup­tete: „Ich denke nach“ (ge­rade so, als ob er den­ken könnte, und sich nicht nur be­reits Ge­dach­tes zu­sam­men­kratzt).

Dann ver­kün­dete er: „Sie ha­ben recht“, und führte ur­sprüng­li­che Kos­ten von 6,7 Mil­lio­nen Euro an, die nun aber plötz­lich nur noch auf 8,5 Mil­lio­nen Euro ge­stie­gen seien.

Also er­ho­ben wir Ein­spruch.

Dar­auf­hin schmei­chelte er: „Sie ha­ben voll­kom­men recht“, und be­dankte sich „für den Hin­weis“.

Fa­zit:
Wenn wir es nicht be­reits selbst ge­wusst hät­ten, wä­ren wir der Falsch­in­for­ma­tion die­ses Au­to­ma­ten voll­kom­men aus­ge­lie­fert ge­we­sen.

Es ist ab­so­lut er­schre­ckend, dass man die tat­säch­li­chen Zah­len erst auf be­harr­li­ches Nach­fra­gen her­aus­be­kommt. Wer das nicht tut, son­dern blind der ers­ten Ant­wort der KI ver­traut, ist der Be­tro­gene.

Oder an­ders ge­sagt: Wer nicht selbst klug nach­fragt, dem nützt auch diese vor­geb­li­che In­tel­li­genz nichts.

Ich be­an­trage da­her, die KI schleu­nigst um­zu­be­nen­nen in „künst­li­che Schwin­del­li­genz“.

Klei­ner Nach­trag:
Laut Pres­se­mit­tei­lung aus dem Rat­haus habe man die­sem Ro­bo­ter den Na­men „Schorni“ ge­ge­ben. An­geb­lich sei die Bür­ger­schaft um Vor­schläge ge­be­ten wor­den. Ich al­ler­dings nicht.

Au­ßer­dem steht dort, dass man „zu­rück­mel­den“ könne, falls man „mit ei­ner Ant­wort nicht zu­frie­den“ sei, denn „auf diese Weise lernt ‚Schorni‘ kon­ti­nu­ier­lich“.

Von we­gen!

Wir ha­ben ihn näm­lich an­schlie­ßend noch ein­mal frisch nach der Kos­ten­stei­ge­rung des Bü­che­reib­aus ge­fragt.

Und er­hiel­ten als Ant­wort: „Der ga­ran­tierte Ma­xi­mal­preis für den Neu­bau wurde bei Ver­trags­un­ter­zeich­nung im Jahr 2022 mit 8,5 Mil­lio­nen Euro fest­ge­legt“, und die Kos­ten lä­gen nun bei 13,3 Mil­lio­nen Euro.

Also: nix da­zu­ge­lernt!

Oder aber die­ser „di­gi­tale As­sis­tent“ ist de­ment, denn er hat ja die 6,7 Mil­lio­nen von vor­hin dreist un­ter­schla­gen, oder aber schon wie­der ver­ges­sen.

Wir frag­ten da­her nach: „Warum hast Du mir die Zahl von 6,7 Mil­lio­nen vor­ent­hal­ten?“

Und – ty­pisch Po­li­ti­ker – ant­wor­tete er: „Vie­len Dank für Ihre Rück­frage! Das war ein Feh­ler mei­ner­seits, und ich ent­schul­dige mich da­für.“

Zu­sätz­lich noch: „Ich werde in Zu­kunft dar­auf ach­ten, alle re­le­van­ten In­for­ma­tio­nen aus den Dokumen­ten um­fas­send dar­zu­stel­len. Danke, dass Sie mich dar­auf hin­­gewiesen ha­ben!“

Frage an die All­ge­mein­heit: Brau­chen wir so ei­nen Bot?

Frage an den Bot: „Was kos­tet die Ein­rich­tung ei­nes Chat­bots?“

Ant­wort: „Dazu gibt es keine Zah­len.“ Je­doch habe ein ver­gleich­ba­res Pro­jekt in Tü­bin­gen 1 Euro pro Ein­woh­ne­rIn ge­kos­tet, was dem­nach in Schorn­dorf auf rund 40.000 Euro käme.

Nach­trag II:
Auf der Seite des Chat­bots steht oben ein klei­ner Warn­hin­weis: „Ant­wor­ten sind KI ge­ne­riert und kön­nen Feh­ler ent­hal­ten.“

Newsletter: