Maszyna do decydowania

AAA

Aleksandra Przegalińska

Współcześnie nie mamy do czynienia z sytuacją z „Łowcy androidów”, w którym wzruszający klon chce zostać człowiekiem. Teraz „klon” uczy, jak być człowiekiem.

25 listopada 2008 roku Cornelia Dean opublikowała w „New York Timesie” artykuł, który w międzynarodowym obiegu przeszedł bez większego echa. Tekst, zatytułowany „A Soldier Taking Orders From Its Ethical Judgment Center”, oparty był na wywiadzie udzielonym pani Dean przez dr. Ronalda C. Arkina. Doktor Arkin opisywał tam swoją pracę na zlecenie amerykańskich wojsk lądowych, która polega na projektowaniu inteligentnych robotów bojowych, detektorów min i rozmaitych urządzeń tropiących. Przy okazji napomknął, iż jego największym marzeniem jest skonstruowanie robota, który będzie samodzielnie funkcjonował na polu walki, czyli podejmował decyzje bez rozkazów człowieka. Zadeklarował, iż prace nad takim mechanizmem trwają od kilku lat.

Idea może wydawać się szalona, ale w rzeczywistości nie jest ani nowa, ani zdumiewająca dla osób, które biorą udział w podobnych projektach od wielu lat. Pomysł stworzenia systemów, które asystowałyby przy podejmowaniu wojskowych decyzji strategicznych i rozwiązywaniu problemów na polu walki, a także delegowały armię robotów na wojnę, jest głęboko osadzony w powojennej historii Zachodu. Okres jego szczególnej popularności przypada na lata 50. i 60. XX wieku, czyli czas zimnowojennego wyścigu zbrojeń między krajami NATO ze Stanami Zjednoczonymi na czele a ZSRR i Układem Warszawskim. Wówczas to w laboratoriach na amerykańskich uniwersytetach narodziła się cybernetyka (gr. kybernán: „sterować”, „kontrolować"), czyli nauka o systemach sterowania złożonymi układami opartymi na przetwarzaniu i przekazywaniu informacji, w całości podporządkowana myśleniu, iż bardziej zaawansowane części globu wymagają skutecznych modeli planowania strategicznego i zarządzania ryzykiem, ponieważ muszą być za wszelką cenę chronione przed wrogą inwazją. Jak w „Cyborg Agonists” zauważa Phil Mirowski, teoria gier i  badania operacyjne (tzw. OR –operations research), które stanowiły trzon cybernetyki, wiodły w latach 50. prym, ponieważ oferowały kuszącą perspektywę stworzenia całościowej teorii organizacji powojennego świata: synergii między dynamicznie rozwijającymi się naukami ścisłymi, stabilną ekonomią i racjonalnym zagospodarowaniem wciąż rosnących zasobów ludzkich.

Naturalne wydawało się, że w obliczu ewidentnego postępu techniki i w warunkach zagrożenia nieprzewidywalnym człowiek Zachodu musi współdziałać z sojusznikami, których sam stworzył – maszynami. Spór toczył się o to, jaki charakter miałaby mieć ta relacja.

Pierwszym istotnym projektem cybernetycznym była koncepcja Alana Turinga: duet złożony z maszyny obliczeniowej i człowieka miał współpracować, szukając optymalnych rozwiązań strategicznych.

Człowiek był od zarządzania, maszyna zaś – jako partner „inteligentniejszy” – od obróbki danych i przedstawiania potencjalnych rozwiązań. Jednakże poza jasnym podziałem ról narzuconym przez Turinga pojawiały się pomysły zgoła odmienne. Jednym z nich była idea Donalda McKaya, badacza psychologii procesów wymiany informacji, który wprowadził darwinizm do cybernetyki. Poza stałym instrumentarium OR w jego słowniku opisu maszyn znalazły się wyrazy takie jak „adaptacja” czy „celowość”. McKay nie godził się ani na to, że ludzki organizm składa się z kompozycji podsystemów, które można dowolnie odtwarzać poza ludzkim ciałem, ani na to, że działanie i myślenie człowieka (a w konsekwencji także maszyny) można pomyśleć poza jego naturalnym otoczeniem. Proponował zatem skupienie się na analizie zachowań umożliwiających przetrwanie oraz celowości działań. W kontekście zimnej wojny sama koncepcja McKaya w istocie zrewolucjonizowała pojęcie wroga – obcego. Chciał nauczyć maszynę tego, czego ze zrozumiałych skądinąd przyczyn nigdy nie zdołał opanować człowiek: myślenia, że „obcy to ja”. Niestety, nie doczekała się satysfakcjonującej realizacji praktycznej.

Dekadę później założenia stworzenia idealnej maszyny bojowej, która przypominałaby w wielu funkcjach człowieka, ale jednocześnie górowała nad nim intelektem, zostały zrewidowane przez brak wymiernych rezultatów. Kolejne projekty robotów antropomorficznych zatrzymywały się w momencie, gdy maszyna zamiast liczyć lub wykonywać zaprogramowane zadania miała zacząć się uczyć. W tej sytuacji armia amerykańska powoli zaczęła wycofywać dotacje z uczelni prowadzących na jej zlecenie badania nad „terminatorem”. Jednakże właśnie wtedy, gdy źródło rządowego finansowania wyschło, wciąż młodą dziedziną zainteresował się amerykański biznes, który z reguły stawia raczej na rozwiązania skuteczne niż ambitne i nie żądał od maszyny, żeby stała się „lepszym człowiekiem”. Dlatego też lata 70. okazały się okresem rozwoju pewnego komponentu inteligentnych maszyn bojowych, czyli tzw. systemów wspomagania decyzji (Decision Support Systems, w skrócie DSS).

Mówiąc najprościej, systemy te bazują na wnioskowaniu „jeśli – to”. Większość składa się z trzech zasadniczych części: bazy danych, która stanowi zasób wiedzy systemu, silnika inferencyjnego, który stanowi jego operacyjny mózg, oraz interfejsu, który pozwala komunikować się z użytkownikiem. Mechanizm podejmowania decyzji przez DSS polega na tym, że dobra decyzja to tylko i wyłącznie taka, która wynika z dobrego procesu decyzyjnego. Innymi słowy, jeśli mechanizm działa prawidłowo, decyzja musi być prawidłowa. Dzięki tak klarownemu rozumowaniu uznano, że DSS mogą być pomocne w branżach, które po wojnie rozwinęły się najbardziej: finansach, systemie opieki zdrowotnej, a także administracji i podatkach. Jednakże im lepszymi pracownikami okazywały się DSS w środowisku prostych, rutynowych działań, tym więcej od nich oczekiwano. Nie miały już, na wzór swoich technologicznych przodków, maszyn do pisania, asystować przy pracach biurowych, lecz nimi zarządzać.

Obecnie wśród systemów decyzyjnych wyróżnia się szczególną grupę, która nosi wdzięczną nazwę „systemów eksperckich”. Grupa ta jest o tyle wyjątkowa, że zdaniem wielu specjalistów najbardziej „upodobniła się” do człowieka.

Systemy eksperckie, które z grubsza skonstruowane są podobnie do DSS, różnią się od nich przede wszystkim tym, że – podobnie do człowieka – „uruchamiają wyobraźnię”, tj. „rozumieją”, że funkcjonują w złożonym środowisku, o którym nie ma pełnej wiedzy. Zamiast zatem brać pod uwagę ogromną ilość parametrów, testują małymi krokami różne rozwiązania problemu, które przyswoiły wcześniej w podobnych sytuacjach. Aby osiągnąć cel główny, wyznaczają sobie na podstawie testów cele pośrednie i dopiero po ich realizacji uruchamiają dalsze procedury. Jednak wśród rozmaitych scenariuszy system – z racji swojej elastyczności – czasem nie potrafi rozpoznać tego, który jest błędny w sposób oczywisty, a przynajmniej takim jawiłby się dla człowieka.

Mimo to systemy eksperckie od około dwudziestu lat zalewają rynek usług. Ich cichą, ledwo zauważalną obecność można wytropić zarówno w opiece medycznej, jak i e-handlu oraz bankowości. Od około pięciu lat (czyli mniej więcej od czasu, gdy dr Arkin zaczął budować „mechanicznego żołnierza”) mówi się także głośniej o wdrożeniu systemów eksperckich w świat doradztwa biznesowego, a także… etycznego i psychologicznego. Już pod koniec lat 90. ochoczo zapowiadano, że uczące się systemy eksperckie mogą nie tylko prowadzić menedżerów w ich decyzjach biznesowych, ale także pełnić w przyszłości istotną funkcję edukacyjną, kształcąc kolejne pokolenia kadr. Jednakże, jak podkreślają przeciwnicy DSS, kadry to niezupełnie to samo co zasoby.

Jak to możliwe, żeby maszyna asystowała na przykład przy podjęciu decyzji w sprawie zatrucia stawu toksycznymi odpadami bądź zwolnienia pracownika, który nie wykonywał swoich zadań dostatecznie dobrze?

Takie propozycje budzą oczywisty opór. Już w 1993 roku Omar E.M. Khalil w książce „Artificial Decision-Making and Artificial Ethics: A Management Concern” pisał, że system ekspercki nie może ani podjąć samodzielnie decyzji o charakterze etycznym, ani nawet asystować przy jej podjęciu, ponieważ brakuje mu emocji i systemu wartości, co całkowicie upośledza jego zdolność do adekwatnej oceny sytuacji. Także Daniel Dennett, niegdyś przyjaciel i orędownik cyborgów, udowadniał, że system ekspercki nie może zarządzać jak człowiek, ponieważ nie żyje jak człowiek. A jednak przestrogi przeciwników wydają się wołaniem na pustyni. Pozostaje faktem, że masa ludzi, którzy już dziś pracują zawodowo z takimi systemami, wspólnie z nimi podejmując decyzje wysokiego ryzyka, woli tę odpowiedzialność zbiorową od odpowiadania własną głową i wierzy, że „decyzja systemu” jest bardziej racjonalna od tej, którą podjęliby sami.

Zastanawiające, że tak młoda dziedzina, jaką jest sektor IT, potrafiła w krótkim czasie niemal samodzielnie wykształcić nową etyczną figurę profesjonalisty (lekarza, menedżera, żołnierza, a w przyszłości może także prawnika), którego zawodowe kompetencje definiuje zakres współpracy z systemem. Nie jest to bowiem sytuacja rodem z „Łowcy androidów”, w którym wzruszający klon chce zostać człowiekiem, lecz taka, w której „klon” naucza człowieka, jak być człowiekiem, robiąc mu testy Voight-Kampffa à rebours. Być może jednak ironia nie jest tu na miejscu? Człowiek przecież coraz chętniej poddaje się rozmaitym praktykom polegającym na treningach dyscyplinujących osobowość i figura trenera w sposób widoczny wypiera figurę terapeuty. Z drugiej zaś strony, „czuły programista” ze Stanford University uwrażliwia robota-pupila na znane psychoanalizie mechanizmy wyparcia, które można wytropić i zwizualizować dzięki rezonansowi magnetycznemu. W tej sytuacji rzeczywiście trudno orzec, kto kogo powinien uczyć.

 

Tekst ukazał się w 27. numerze pisma Dwutygodnik.com

odsłuchaj zawartość strony wersja do druku

  1. fwkILzYcrlSr2011-09-15 17:06:18

    I'll try to put this to good use immedatiley.

  2. WIcWcPPJrRhZK2011-10-09 22:34:17

    And I was just wodrneing about that too!

  3. 2012-05-16 03:51:22

  4. 2012-07-25 20:02:25

  5. kBoDGFIEdbow2012-09-11 21:14:50

    you asked 2 questions Question oneWhat do you think about glabol warming?.I think Global warming is trueThis week, one of NASA's top scientists concluded that the Arctic Ocean could be nearly ice-free within five years, much faster than all previous predictions.when the north pole is gone , you may have polar bears soon in America ,looking for a home ,Calculations do not include the accumulative ,speeding up ,factor with time. the increase in water temperature will get faster all the time as well as the melting,when the ice is all gone the deeper cold Ocean currents will stop ,and the drag has gone with it ,also changing the higher warm currents,And only the moon will keep things movingThis will affect coastal climates ,world wide ,almost instantly. All aquatic flora and fauna will be affected,many dying off and others becoming invasive,Right now In Chiapas ,and Tabasco in Mexico .more then a million people became homeless overnight with water coming up to their roofs ,because of rains from super evaporation from the forests,this had never happened before. Millions of animals died.In India 3000 people died because of super storms ..A few years ago in Europe 3500 people,died during a heat wave ,many of them in France .Right now the average death toll annually is 150.000 due to Global warming. these figures are already out of date and are expected to double soon.In Northern China millions of people are running for their lives because regular dust storms so far have buried 900 villages under the sand and the whole of northern China is turning into a dessert.The Sahara is growing by 7 kilometers a year all around the edges ,like a slow burning fire shriveling up their neighbors In the Kalahari huge rivers have dried up and thousand of species are gone due to their habitats disappearing .The biggest changes are invisible at micro biotic levels species are becoming extinct ,others are multiplying ,This affects the insect populations that follow ,and changes in that ,affect all that follows in the food chains ,All life is interrelated of both flora and fauna, And since we are on the top of the food chain ,we are always the last to know.So Global warming has its toll there are incidents all over the world , -Question two5 reasons why Humans are contributing to the natural cycle and speeding it up1) POLLUTIONAIR pollution and the green house effectSoil pollution,which causes us to exploit more (un contaminated ) land Water pollution which cause us to use more (un contaminated) water2) OVER POPULATION 70 million more people each year ,drink ,destroy and eatputting pressure on natural resources ,such as water and soil,and expanding settlement which diminishes the Natural world.3) DESERTIFICATION because of Deforestation, for agriculture4)Overgrazing.5)Over pumping Carbon Aquifers and wasteful irrigation,which deplete ground water supplies ,and the trees die ,and when the irrigation stops ,everything dies

  6. 2012-09-11 21:14:53

  7. 2012-09-12 02:53:30

  8. 2012-09-13 06:36:03

  9. 2012-09-13 20:01:21

  10. 2012-09-14 01:25:47

  11. ZwlnjxijLi2012-10-14 05:48:44

    Of the panlopy of website I've pored over this has the most veracity.

  12. 2012-10-14 05:48:47

  13. 2012-10-14 16:05:29

  14. 2012-10-15 14:07:01

  15. 2012-10-16 16:03:18

  16. 2012-10-19 09:35:44

  17. 2013-02-25 03:07:15

  18. 2013-03-30 03:48:30

  19. 2013-04-27 14:16:47

  20. 2013-05-24 01:59:35

  21. 2013-06-05 21:47:50

  22. 2013-07-07 18:09:49

  23. 2013-08-07 10:39:42

  24. link building2013-09-08 08:30:47

    GPgW9Z Appreciate you sharing, great blog post.Really looking forward to read more.

  25. 2013-09-08 08:30:50

  26. top seo guys2013-10-23 19:00:17

    KKiZuy Thanks for the article post.Thanks Again. Much obliged.

  27. 2013-10-23 19:00:19

  28. top seo guys2013-10-26 11:29:20

    sr3bgR Im thankful for the post. Keep writing.

  29. 2013-10-26 11:29:22

  30. link building2013-10-27 00:10:51

    dCzAtm Very neat blog article.Thanks Again. Much obliged.

  31. 2013-10-27 00:10:54

  32. great things to know2013-11-18 20:21:32

    vgrTQj I appreciate you sharing this article. Really Great.

  33. 2013-11-18 20:21:35

  34. check this out2013-12-15 08:42:34

    hblBlt I loved your post.Thanks Again. Really Cool.

  35. 2013-12-15 08:42:36

  36. check it out2014-01-09 03:14:35

    zL4OKP Thank you ever so for you blog article.Much thanks again. Awesome.

  37. 2014-01-09 03:14:41

  38. look at this2014-01-16 22:27:46

    FGS0SF Thanks for the article.Really looking forward to read more. Great.

  39. 2014-01-16 22:27:48

  40. stunning seo guys2014-02-28 14:21:04

    9BCrX6 Thank you ever so for you blog article.Much thanks again. Keep writing.

  41. 2014-02-28 14:21:06

  42. seo for cheap2014-03-22 16:49:29

    FOzgDJ Really informative article post.Much thanks again. Fantastic.

  43. 2014-03-22 16:49:31

  44. best prices2014-04-01 12:35:55

    IfR0d4 Im grateful for the blog article.

  45. 2014-04-01 12:35:57

  46. best seo company2014-06-04 14:01:58

    CctWIA This is one awesome article post.Much thanks again.

  47. 2014-06-04 14:02:00

  48. good backlinks2014-06-19 23:14:26

    fG94Ah Appreciate you sharing, great blog.Much thanks again. Will read on...

  49. 2014-06-19 23:14:28

  50. good backlinks2014-07-04 00:22:55

    R8X5RN I am so grateful for your blog post. Want more.

  51. 2014-07-04 00:22:57

  52. crorkz matz2014-08-01 23:59:19

    jrk9db Im obliged for the blog post. Will read on...

  53. 2014-08-01 23:59:29

  54. crorkz matz2014-08-03 20:40:09

    KM6rfE Really enjoyed this blog post.Really thank you! Awesome.

  55. 2014-08-03 20:40:11

  56. crorkz matz2014-08-04 22:05:06

    LsTzic Very good blog.Really looking forward to read more. Really Great.

  57. 2014-08-04 22:05:08

  58. matzcrorkz2014-08-04 23:33:35

    edGHHw Thanks again for the blog post.Really thank you! Fantastic.

  59. 2014-08-04 23:33:38

  60. crorkz jremy2014-11-23 22:38:51

    Or30Vd It's really a nice and helpful piece of info. I am glad that you shared this helpful information with us. Please keep us informed like this. Thank you for sharing.

  61. 2014-11-23 22:38:53

  62. 2015-07-14 02:27:00

  63. 2015-07-15 18:46:54

  64. 2015-08-02 04:41:08

  65. 2015-08-02 18:59:01

  66. 2015-10-02 11:39:20

  67. 2015-10-26 08:31:29

  68. 2015-12-26 15:19:35

  69. 2016-01-09 09:11:47

  70. 2016-02-05 06:00:51

  71. 2016-04-12 17:26:02

  72. 2016-05-09 06:14:40

  73. 2016-05-13 06:23:08

  74. 2016-05-24 13:38:28

  75. 2016-05-28 16:41:34

  76. 2016-05-31 01:02:06

  77. 2016-06-09 14:33:53

  78. 2016-06-10 18:02:24

  79. 2016-06-13 13:01:59

  80. 2016-06-23 01:50:32

  81. 2016-07-05 22:26:27

  82. 2016-07-18 20:16:06

  83. 2016-07-22 00:01:27

  84. 2016-07-27 15:41:33

  85. 2016-08-13 10:30:26

  86. 2016-09-12 07:21:53

  87. 2016-10-12 02:27:33

  88. 2016-10-29 04:55:25

  89. 2016-11-10 01:59:49

  90. 2016-12-06 03:47:48

  91. 2016-12-27 05:57:29

  92. 2017-01-15 15:47:06

  93. 2017-02-03 21:18:04

  94. 2017-02-25 20:45:34

  95. 2017-07-05 20:27:04

  96. 2017-07-22 14:59:05

  97. 2017-08-06 08:16:56

  98. 2017-08-20 21:47:42

  99. 2017-09-04 06:03:02

  100. 2018-10-22 02:38:09

  101. 2018-10-27 07:54:17

  102. 2018-10-28 09:18:55