Etyka w programowaniu maszyn

[SaladinAI]

Etyka nie stosuje się w działaniu maszyn. Sztuczna inteligencja zdolna do odpalenia głowicy jądrowej nie ma wątpliwości ale co więcej nie myśli w zakresie moralnego rozważania skutków. Tak to wyjaśnia gra - przeniesienie możliwości nuklearnego ataku w "ręce" maszyn SI to tyleż samo co pozbawienie człowieka etycznego ciężaru czynu. O ile człowiek kieruje się po prostu strachem i sama myśl o totalnym zniszczeniu gatunku jest wystarczającą przesłanką do kontroli nuklearnego arsenału, tak maszyna nie musi już się martwić o wyeliminowanie człowieka z powierzchni ziemi.

Przy takim podejściu wykorzystanie maszyn można postrzegać jako akt głupoty lub sposób na zerwanie limitów decyzyjności organicznego nośnika, przez akt dehumanizacji co ma na celu zwiększenie cywilizacyjnego postępu kosztem całkowitej anihilacji. Jak miło.

Dlatego etyczne zaangażowanie, ma obejmować przede wszystkim programistów, tj. dopóki ci sami nie są dość skorumpowani. Stąd argument o przerzuceniu odpowiedzialności na "barki" SI, ze względu na niedoskonałość ludzi, jest wysoce wadliwy skoro to ów niedoskonały człowiek ma ustalić czym ma się kierować idealna maszyna.

[Spuczan_]

Nie wiem czy dobrze zrozumiałem ale skoro człowiek tworzy maszynę która będzie potrafiła podjąć trudną decyzję bez zastanowienia, w sekundę np. zabić 1000 czy 100000000000000 ludzi to i tak przecież odpowiedzialność spadnie na człowieka który tą maszynę stworzył. I tak w kółko. Chyba, że maszyny będą potrafiły się same tworzyć. Niestety w tym przypadku także odpowiedzialność za to poniesie człowiek który do tego dopuścił.

Reasumując: zawsze to człowiek będzie odpowiedzialny za to co się dzieje na wojnie/świecie.

[SaladinAI]

Ale jednak cały pomysł polega na tym żeby przerzucić ciężar ludzkich grzechów/osiągnięć na wolę i łaskę maszyn, redukując człowieka niejako do roli biernego obserwatora po fakcie. Kubański kryzys miał pokazać, według Coldmana, że ludzie nie są zdolni do podejmowania każdego typu decyzji, zwłaszcza takich absolutnie wymagalnych, co automatycznie eliminuje go z pola bytów decydujących o kształcie świata.

[Spuczan_]

Ok rozumiem.

Jednak analizując "dziurawą" logikę Coldmana odpowiedz mi kto stworzył maszynę zdolna do podejmowania decyzji. To właśnie ten człowiek będzie za wszystko odpowiedzialny. Zawsze człowiek będzie ponosił konsekwencję swoich czynów. Maszyny same się nie tworzą.