 .      
 ʸ


            ?      ,    ʸ           ,    . ʸ ,      -  GPT-    :  ,        ,    .         ,   ,       .         ,           .

  PDF A4    .





 ʸ

 .      



Gaspard KCnig

La Fin de lindividu Voyage dun philosophe au pays de lintelligence artificielle

LOBSERVATOIRE

 Editions de LObservatoire/Humensis, 2019

  , , 2023

   , 2023







,             ,    .  ,              ,    ,     ,      .

       2018.    ,      ,       .       ,      -   .

      ChatGPT,       .

    - (,    )      ,  ,   .

-, ,         .          :     ,    -,     ,      .          -.  ,       .      ChatGPT       .

     .  ChatGPT,    ,            .   ,  ,      ( ,       ),    !    ⠫ ,    ,       ChatGPT    .

     ?

   ,         .

ChatGPT       .      ,         .           ?   ,   ChatGPT,  ,     .      .

   ChatGPT     ,    .    ,  ChatGPT , ,  ,   ,   .   2500    ,       .         .    ,  ,   ,   :       ,  ,    .    ,    ,    .            ,    .

,    ChatGPT   ,   .     ,     ,     .  :     ,   ,     .

       .  ChatGPT   ,        .    ,   ,   .    ChatGPT    ,                   -.

    ,         (How the Enlightenment Ends), ,  ,   .            ,       ,     .  ,    ,    .

  :



             ,     .    ,     .


 :



      ,    , -  . <>     ;    .


 , ChatGPT    .    ?   ,   - ?   ,   ?

    .  ,         ,      .  

   .       ,  ,     .

    ,  ,      .



 ʸ

 2023




Homo deus


Sorry, I cant help you. ,     ,           ,        .      ,      ; ,   ,  ,     ; , , ,    ,  ,    .

Sorry, I cant help you.  :  ,    .  ,     , ,     PowerPoint,      ?   :    , make the world better.    ,   .  ,   ,   .    :      .

Sorry, I cant help you.  ,       Gmail: ,  ,    .         .      ,      ?

            ,     ,      ,     ,          ,          .      , , ,       ,   -,   .  -     ,     . , ,      -,   .  ,   ,      [1 -  .  . : , 1993. .95.     ,    .].    :      ,   ;      ,    ;       .       :      ,     .     :    ,      .              ; -,        ,   ;   1970?      ,    ,         ,     ,      ,      . ,     The Economist     ,  [2 - Philosopher kings // The Economist. 2014. Oct 4. URL: https://www.economist.com/business/2014/10/04/philosopher-kings].  ,    -?

  ,   -    -,         ,         .       125,          : , , , , ,            ,     ,      ,       ,    : , , , -, , -, -, , , -,  , , .    ,     ,     , ,   ,         ,  ,    , ,    ,  180? ,     .      ,   ,     ,   -  .

  .       Facebook[3 -   Meta,    . . .] ,    .   ,     ,     ,  ,            ,     .               :      ?      ?     ?   , , , ,    ,    ,              ,  .

     .     ,    ,     (MIT),       ,    ,      .       ,           ,   ,   .   ,  ,     ,    ,          .     ,     .       . ,     ,      ,   ,    ,  .  ,         .  , ,  , ,    -  ,      ,     (,      Microsoft Apple 1980?).           .  ,   ,   .

   ,   . ,      :     ,     ꠫   .  ,           .       ,   .    ,                  :           ,      ,        ,     ,    .           , ,    ,    ,     ,   . , ,   ,   ,  . ,      ,  , :         ,   .  ,     - ,      .       [4 - ( . serendipity)  ,      . . .],       .

     ,        ,     :    -          -      .           . ,    ,    ,            蠫 . ,    ,      ,       ,    .    :       ,     ,        .       , ,     ,     ,  ,      ,     .  ,         ?

  ,            . Cool, ,    ,    ,           .    ,   ,         (, !   ),    .  ,    :    ,   . Think different,  ,  .          ;   ,   ,   ,      .       ,        .   ,  ,       ,       .  -     !   -     ,     .           . ,  ,   -,          ,   -    [5 - https://medium.com/@romainserman/silicon-valley-etiquette6934cf6f8f73].

    Madera Rosewood Sand Hill,   , ⠫ ,     ,  ,        .  ,    ,    GPS.   ,    ,        .   .     .         Jasper Ridge;        ,   .         ,   .            .        .        : Sequoia Capital, Menlo Ventures, Schlumberger, Makena Capital, Andreessen Horowitz, Coaetue Management, Silver Lake Partners, Kleiner Perkins   ,  .  ,    .   ,   ,         .     ,    ,  ,   .   :    ,       .   ,        ,   ,       .    , -         .  ,      ,  TED Talks,     .

   :      ,   ,      .     :    ,   ,     ,    like.

 ,     ,     -  (, ),   ,   ,               .    ,        .          , ,  Rosewood Sand Hill   .       ,    ,    ?

       ,    .     ,      : ,           ( !)     ,   ,   ,    ,     [6 - Valry P.Le Bilan de lintelligence [1935]. Allia, 2016.],  .  ,   !          ?      ,   ,    ,      .

         .        ,       ,  ,  ?  ,       ,    ,         ?    ,  ,   ;     ,   ,     .      ,    ,       ,  ,    .   ,    calculus ratiocinator,      .                ,    ,        ,         : ![7 - Leibniz W. Nova methodus pro maximis et minimis. 1668.]

          : ,  , ,             [8 -    . :Davis M. The Universal Computer. W.W. Norton, 2000.].     ,       ,             .    Deep Thought,     :       ,    ,  : 42.     ,        .     ,    ,   ,       ?

       ,         MIT:     ,     ,              .         .          ,      ,   ,     ,    .        :       ,  .     , ,   -    ,     .       ,         .   ,     ,       ,  ,     .          ,     ,   ,    ,         ,   Deus sive Natura,   ,        .    ,    ,      .       ,    -      .      ,   .

 ,   ,   ,      ,       ,        :        -   ?   ,   ,      ,    ,        .  ,       -       .   ,    ,       ,     ,    .

        ,        .       ,         ,    ,           .           ,    :  ,  ,     .      ,          ,        ,   ,   .

       .    Homo deus      :          ,    .         ,    ,   .          ,   ,       .      ,     ? ,        , ,  ,  .  ,         ,       ,    .     ,   ,      ,      ,            ,      ,         ,               ?     ,         .           ,  ,  ,  ,      [9 -     the right to err   ,    . ..].

 ,   ,      ,    ,          -.    ,   ,   ?  ,              ,      ,       ,       .      ,     ,   ,     ,     .   ,   ,        ,   ,    ,  ,       .     ,       ?       ,          ?    Google   ,        nudge,      ?

       .    1929,         laissez-faire    [10 -      1938,         .     . : Audier S. Le Colloque Lippmann. Aux origines du nolibralisme. Le Bord de leau, 2008.].            : ,    (    )   .     ,     ,    .

      ?




1

 




    

    ,    ,           .      ,           .  - -,     .   :       .      ,             -,     .    ,  ,    ,        ,      , ,   .    :        ,    .  ,            .            ,     .       ,          .  ,       ?      

    .     ,                .       ,          ,     ,    [11 - , 2017     (Center for Economic Policy Research)           42%   18%  .].  Ȼ   , ,     ,       .          ,      .     ,  deep learning   ,     ,         .        -.             ;      .

      ,   ,       :    ,     .   ,    ,      ,      ,       .  ,    -,    ,  - ,       : Brighterion:     ; Darktrace:    -Ȼ.    : ,  Uber,          ,    ,  ,      ,     . Ѡ  :           .       :  Situ -           ,     Microsoft,        .

,  ,     ,    1960?.         - City Lights,      . ,  , ,      ,   ,    :   .   Google, Tor ӻ[12 -  .   .   Google, Tor . .: Individuum, 2019.],   :    , Habeas Data:   ,   ..  , ,   ,    ,      ,        , ,     .    ,      -,  ,   ,   1930?,   ,       .       ,     : -    ,        .       :        ,     .                .      : , , , .   ,   : , , , . ,       . ,          ,     .

,   , ,   , ,      .  TED,       ,         ,       ,    :    .     .

   .    ,       .

     




      Amazon


    ,   ,  Amazon    ,     Amazon Mechanical Turk    Amazon.    ,  ,         (,   ),         .    ,      ,        ?

  ,  1769             ,    .             ,     ,    ,    .  ,     -   ,             ,   ,     .  ,   ,         .      ;      ( ),      ,   .    ,         ,     -       ,   ,       .      ,        ,      ?  ,    ,   .          .  ,    ,    .

,   ,   .       ,           .               , ,   ,   ,  .       ,     ,         . Amazon   ,      ,        ,  ,    . ,         ,     .          ,     XVIII,     ?     ,       ,            ?

     .     1854      ,     ,     .    .       ,     ?

  -,  - -.       ,          ;   ,     .   -  :         .      .          ,    -    .    : ,  ,  -,                 .     ,     .    ,    .   , ,    ,  , ,     .           :      ,    ,       .            ,           .      : ,       ,   .

   ,       ,   ,  ,        ,    .      ,           . ,          ,    ,     :       ,    ?

 ,     ?         ?      :     ,   .     ,      ; ,      ,    -        ,           ,  ,   ,        .   -       , ,          ,    ,        .

  ,  ,   ,     .    ,      .       :       ,        .      ,  .               ,       ,     ,      ,     ,     .   ,    .

      ?  ,    .  .  ,  ,       ?   ,   .

   ,       :    ,    .     ,  .  .   ,   ,   ,  ,     ,   ,   .  ,     

Machine learning, deep learning, reinforcement learning, unstructured learning[13 -        . : https://developers.google.com/machine-learning/glossary/]        -,     .  ,    ,         ,       .   -      ;   ,          . ,   ,   ,   Ȼ ,   ,             ,        .  , .

               IBM Watson -,         .     ,   ,    ,   ,   ,           .           .       ,   ,      ,            ,       . (    - -        :       养)   IBM     .     ,     ,    ,       -     .   ,         .      ,    IBM     ,    .     ,   ,   , .

IBM    ,  ,    Deep Blue   . Watson      ,      Jeopardy![14 -     . . .].   IBM        .  Watson     ,    ,    .     :  ,    (, 砫),       (, ),         (,   J.P.Morgan).          ,       ,     . , Watson      ,     .  ,        ?      ,    ![15 - High R. The Era of Cognitive Systems: An Inside Look at IBM Watson and How It Works. IBM Corporation. Redbooks, 2012.]

   ,     ,         . , ,     ,       ,       IBM.  ,        ,      ,          ,   ?   ,  ,    - IBM,           ,         ,        . -            ,  , ,   ,          . ,     ,        .

   .     1950? [16 -      1955.       -       .]           .   :     .             ,    [17 -   . :Wooldridge M. Artificial Intelligence. Penguin, 2018.].        ,  ,     ,       .   Deep Blue,        1997,  ,         .          ,    ,       .  ,     ,      ,  .     GOFAI, good old-fashioned AI,   Ȼ.

     ,  ,       .       ,   ,       ; ,     ,     Ȼ,   .              ,   machine learning,  .

,  ,         ,      ,       ,     .        ,      .       :      ,         ,       ,            ,    -    .

 ,   ,          :    (supervised learning,   ),    (reinforcement learning,        ,      ,       ,  ..) 蠫   (unsupervised learning,       ).      (deep learning),            . ,          [18 -    .:Gron A. Hands-on Machine Learning With Scikit-Learn and TensorFlow: Concepts, Tools, and Techniques to Build Intelligent Systems. OReilly Media, 2017.].

         ,      .     , - -   (          ),     ,    ,         .           (explainability).    ,        ,    ,     [19 - .:Sutton R. The Bitter Lesson. 2019. March 13. URL: http://www.incompleteideas.net/IncIdeas/BitterLesson.html].

    :        ,     ?     ,   ,       . ,     ,    ?      ,    ?          ,  ?        ,    ?       ,         ?       ,    ,      ?

-   ,               .     ,     ,    ,      .     ,       ,       .         ()       ,     .         ,     ;      ⻠ ,      .     ,     ,      ,       .           ,   ImageNet   2010?      - ,        .    ,  20  .     .

    ,   ,        ,      .      .    , ,    : ,    ⠫,   ,    ;   , ,   ,      .             ,   ⠫     ,      : ,    ,   -       .   , ,  ,      ,  GOFAI;      , ,     ,   ,      [20 -        .].         ,  -, ,   ,   ,     .

      Google  --     ,              .       ,           ,        ( ,       Google[21 - ami.withgoogle.com]).  ,      ,   ,          -    .      , , ,   .  ,  ,  ,    ? ,         ?     .    ,        ,        ,       [22 -  ʸ    2018.     ,  ,            (.    ,  Stable Diffusion, DALL-E 2, Midjourney  ). . .].        ,      .       .    .        ,        ,  ,           , -  .         ,    ,       .  ,       ,  .

   ꠫   Amazon,  MTurk.        ,   ,      ,   ,          .        ,      -   Microsoft.  ,        ,      . , ,       :     Microsoft    ,   -      .     ,    .       ⓻,          Amazon,         ,      .    ,     ?           . , ,  ,    ,   ,     ,  ,       ,    .    ,     (  )       .      ,          :   ,   MTurk      .

   MTurk         (    ).   ,       ,    .   ,     ,      -     ,      ,     .   , MTurk   ,    ,    (     )     . ,     ,  - XXI.         ,              : Turkopticon,  Turker View, TurkerNation, MTurk Crowd, TurkerHub.  ,      ,            ,    .

   Murk     :  ,  ,  ,     -  .  ,       ,        .          (the paradox of automations last mile).     ,    . ,          ,        ,     .  ,    ,    ,         .

     ,  ,     .    ,     .           .          2018,           ,    .    ,         , ,   ,      .    -     ,    ,  ,   ,    ?

     ,     VoxelCloud      -,   .        - (UCLA),          .              ,        ,      .  ,        ,      30      ,      ,  ,   ,         . -       ,       

  VoxelCloud  ,   ,         .   ?     ,     .  VoxelCloud        ,     ,       ( ,   ,    ,    ,     ).     ,   ,  ,        :      .        ;           .  -     .            ,     ,      ,       .




   


  ,     , :   ,  .        ,  ,          ,      Facebook -:  軠  ,       .   ,     (,   ),    .             ,    ,        .         ,   80 ,      10 .   ,  ,    ,       ,   ,     ,    .

     .          .    ,    , ,   ,   ,     (        ),           ,    ,   ,     .              ,        ,      . ,         ,   ,      .       [23 - ,    (NLP,  Natural Language Processing)   ,     ,       .  ,  NLP , ,  ,  ,    ..]  -[24 - -    ,   - (     ).   -    .     ,            -,        .],     .     ,        .    ,     ,     . ,  ,  ,         ,        :         .   ,   1950   ,        ,       .        ,    ,    .         :    ,   .

,  ,     ,        :  ,       ,   -      ,    ,       ?        ,    (  )   ,  ,    .    ,   .         ?       ,  ,      ,  ?          ,    -,     ,        ,   [25 - . / . .// . . . 4? . .2. .: , 1993. . .].       :   ,   ,        ,     (,    ).   ,       ,   ,       .    .        ,    :  ,  .   , ,     ,   .     .    ,    ,    ,     .

     2.0,      TED Talks.    ,       ,      ,         .        ,     ,   . ,      ,   ,     .   ,         ,    ,   .     ,     ,   ,   -   :   ?

                ,        [26 - Searle J. Minds, Brains, and Programs// Behavioral and Brain Sciences. 1980. Vol.3. 3.].    ,    . ,               ,   . ,    ,    , ,      .        ,      . ,       ,           ,     . ,     -  ,   ,              ,    ,      -,   -.         ,         ,      ,    .  ,  ,   ,       .     ,   .

       ,         ?         ?         ?

        ,       ,   .  ,    ,       ,       ,      .  :        ,       ,      (   ).      ,  ,   ,        .  ,    ,    , , ,   . ,  ,  ,         ,   ,       ,       .       

 ,          ,     (     ),   (  ,   ).    ,              .    ,  ,      - ?

       ,       .   ,         ,            ,      ,     .    ,         ,           .    , ,      ,    ,  -     .       (reinforcement learning)                 ,    .            -     ,       , -   .

      ?     ,    .      Ȼ     ,       ,     .  ,   -,      ,           .

! Deep Blue,   IBM,    1997,          .         ,   ,       [27 -  .   :   . .:  , 2018.].              ,    ,  . Deep Blue   ,  .        .      ,   (,   ),    ,          .  , ,  ,    ;       ,      ,   .        ,  .     ,   ,   .    ,        , ,         .    ,     ,     . ,  ,      ,          ,  .     ,  Deep Blue   ,   . ,       ,    ໠     .

,   Deep Blue,  ,     ,        .        1980? ,      ,     ,        ,   .    ,         .             AlphaGo,   Deep Blue,       ,    ,  .      ,   ,             ,        - .  ,     ,     ,     :    (  ),   (  ). , AlphaGo       ,        .

              Deep Blue,  ,      .  ,  ,    - ,    Deep Blue       IBM,     ,   ,       ,    .     ?      ,         ?    ,  ,    ? Deep Blue   ,     .            .   ,     ,   .         ,       ,     .     ,         ,   .         ,     . ,      ,   .

          ,        .  Deep Blue   ,  ,    ,         (   ),    .   ,   ,     ,               [28 - Poe E. Maelzels Chess Player// The Southern Literary Messenger. 1836. Vol.2. 5.].       ,     :    .    ,    ,  ,   ,   - . ,      ,          .      :        .      .         ,   ,    .            ?




  


   ,    .               ,   ,         ,     .     .     ,      (   )   .         .          ,   ,  ,     -.

      ,   ,       ,      -.    -   Cozmo     ,                 . Cozmo   .          .  Cozmo   .     .      ,  ,    .   , .      ,    ,  .   Cozmo    ,  ,  .       ,       ,    , ,   . Cozmo     ,       ,   .     ,       Amazon.   ,       ,       :     ,     Cozmo    .

  :  Cozmo    .       ,    ,       Pixar,       . Cozmo      .    ,        ,   .        , Cozmo  .      ,    :  ,     .  ,     ,     ,       . Cozmo,    , ,       ,       .

Cozmo    .      ,            . ,        ,      .     ,         :    ,      ,     .   ,     ,    ,   ,    . ,        ,        ,   .     R2-D2,  砫 ,         .

Cozmo,   ,    ,    :     ,   .         .  ,     ,  蠫    ,    .      R2-D2,           .

     ,          ,           .       , , ,      ,       . ,    Moodys      ,     ,      :  ,  ,       ,     .    Meetic   - ,        ,    :  Google Home,           ,         .   ,       ,     ,   .      :       . ,    Meetic,  ,   .

  Meetic Moodys   ,    .          ?            (, ,   ,     ),      ,      .      NLP,   ,   .     , , Replica  ,             .   Replica    ,         ,         :       Facebook,         ,   , ,  .              .

   ,        -.       ,     ,   .           .       , ,         .            :     .    ,   .

Replica      ,      ,         .      .      ,   ,     .    Replica   ,     .    -, ,     ,   ,           .      ,  ,  ,     ,    -    .    廠       ,   ,   .

     ?    :    .   ,       ,        .      ,  , ,      . Replica,  ,  ,      ,   .  ,        ?    : .  ,    .   ,    ,    ,      ,     .         :    2.0           ,       ,   .     ,      :       .     : ,     ,   .         ,            ,     .       ,      ,     -.

        .   ,         .        ?     ,      ,              , ,      ,   .      Replica: ,    ,         , , ,     (       - ). Replica     ,       . ,    Replica,       ,     .      ,       .

,        ,                   [29 - .:Hofstadter D. Fluid Concepts and Creative Analogies: Computer Models of the Fundamental Mechanisms of Thought. Basic Books, 1995,   4,   ,    -.].          , , ,    .      ,  ,      ,      (   ).         ,      ,      .

     ,      ,   ,   ,    .   ,        ,        .      ,     .        ,      .    XXI    ? ,       ,      ?    ,   ,       ,      ?      ,     ,    .

  ,   ,     .     ,      ⠫       .         .         ,  .        ,    .        ,      ,          (    ),         .       Ȼ, ,     ,     ,     . ,           ,    ,         ,    .

     ,       ,     .   ,    .    ,           .

 ,           ,       .          .        ,   Amazon.   ,        ,       ,  :  ,   ,  - .  ,    ,        : , , ,   .    ,    .      ,     ?[30 -      ,      .]      ,    .     ,    ,  .    ,     ,      ,    ,       , ,  ,        .    ,        ,   .    ,      .

  ,       .     ,     ,       ,           .    , ,     ,     , ,    ,  ,    .      ,   ,  ,  .   .    ,      .

       .    ,  .  ,  Digital Intelligence Lab ,    .   ,    ,       (,     25%).   ,   :       .       .       , , ,    ,   ,        .        .    ,    ,  ,           .

 ,       .       , Amazon         (Magic Word),        (Google     ,   Pretty Please).  ,        ,      ,        . ,     ,   [31 - Sharkey N. The Evitability of Autonomous Robot Warfare// International Review of the Red Cross. 2012. Vol.94. 886.].      ,     ,    :   -     ,        ?    ,      , ,     ,    ,       ?

,       (   ,   Amazon).     .      ,       .       (   ϻ),  Xiao-i,  ,  -. ,                ,  ,  ,   .    -    ,      .      Xiao-i,    1990? ,   ,    NLP        .

   ,  ,     -,   -? .     !       Four Seasons,    .    .        -    ,        ?       ,     ,      ,    ,    ,     ,    . Ѡ   ,      .  ,        ,           .           .       -,  ,    .     -  ,  ,     .  ,    .     ,     . ,   ,      ,    .    ,      .  

  -     ,    ,  ,             .         .

   .     -.    ,     ,      .       .      ,     .      .

    ,   , .

   ,    !

  --          ,     .      ,     ,    ,      ,       .            .    ,     (    Amazon)     -.  ,           ,   ,      ,     .    ,    Point,     ,     :           16.

    .

     .    ,   .     -        .  ,    ,      .    ,       .     ,         . ,   .

    .

         ?       , , ?        ,  ,  ?

    .

     ,   .   .       .    ,     .               ,   ,  ,   ,   .     ,       .       ?    ?       ?

     ,     ,      .          -  ,     ( ), ,  ,   ,    .        ,     .    ,   ,    ! ,         ,    .   ,   .

        ,    . ,           .  , ,   ,     ,   - .      ,          .  ,           . ,  ,           .   ,       ,        , -  ,    .   ,     .      ?      ,     .

        ,       .        .   , ,     ,   ,      ,     ,     . ,    --     ,   ,  ,         ,   -,    .

,    ,  ,      ,  ,      .   ,     ,      ,     .

   ,  ,       , ,   .

   ,   ,                .




2

  




     (  )

    (    ),    ,   Pret A Manger -,          ,   .  ,  ,     .    ,     -.      ,   , ,   , ,    ,      ,   .

,   ,  ,          ,    ,   ,            .      .    ,           .    ,      .    ,       .         ,         ,   .          .       ?           .  ,   ,   ,      ,       .    ,      .       ,     ,   ,       .   .



  .     , , , ,     , , ,         ,  ,         .    ,          .

 ,       ,  ,  ,  , , ,  ,      .   ,         :      ,             .     ,    ,       .

        :     ,   .        ,      ,    .   ,      ,  -    ?

         , ,  , ,       1.0,  ,     ,               ,      .    -,          ,          AI Brain.       ,        ,        

  ,         ,     :       .     ,                .      ,         ,      ,          , ,     ?        ,     ,    . ,         ,        ,    ,     ,     ,  ;        ,     .  ,        ,         , ,      ,   ,   .  ,    -      ?  ,  ,     ,       ?      ,     ,    ,       ?       ,             .

  ,      ,   ,     .      :        [32 - ,  ,   2017 ࠫ-  ,          .              .].  XIX   (        ),       .       ,         ,         .                 ,          ,     .  MIT         ,              .    OpenAI,   ,      .    ,           ,          ,   

, , ,           . ,    ,       ,   ,      . , ,        ,  -    [33 -  MIT  3D- ,     ,     (   ,  ..)      !].  ,      ,  ,          ,    ,         .        ,   ,      .   ,   , ,      ,  ,   -  10100 .        . , ,  ,       ,             ,     ,          .     ,       (  ,    ).    ,         .  ,      ?

        ,   ,     .      ,   ,  ,         [34 - Russell S., Norvig P.Artificial Intelligence: A Modern Approach [1995]. 2009.],    ,         .           ,              .      ,    ,       .       .      ,    .   ,           -  ,     , .   ,     .            .    ,       ,               ,  -   .

               ,        .   ,      ,        .  , ,    :    ,    ,      ,     .     ,    ,   ,   ,   .               ,      .       ,         IBM,    -         . , ,     ,   .      ,   .

          ,      .      ,      .      ,         Cambridge Analytica.        ,      . ,  -  ,             [35 -              3.0 (Tegmark M. Life 3.0. Penguin Books, 2018, .     ).],         ,    .    ,        ,        ,  .

   :  ,   ,    ,     .       ,      .  ,          (   ,    ,      ),      ,     .   ,   ,    ,     Ȼ.         ,       TED Talk, ,    ,     ,     ,        .                ,       .     ,      ,  .       .

   ,           .  ,                   .      ,       ,  .      ,    ?                 ,       .     ,    ,      .  ,    ,       ( ), ,    ,     ,      ( ).   ,        ,   .     ,      ,     - ,     . ,      ,    砫 ,     ?    ,            ,        -   .




    


      ,       .   ,     ,      ,    .     ,    : , , .      ,   ,      (       ,     );       ,  ,  , ,     ; , ,       .         ,      ,       .   ,    .  ,   ,        ,      cloud, .       . ,     Google    [36 - Harris M. Inside the First Church of Artificial Intelligence?// Wired. 2017. Nov. 15. URL: https://www.wired.com/story/anthony-levandowski-artificialintelligence-religion/].

     ,   Ȼ   ,     (    )    ,    .            .   ,  ,          -   ,                3.0,  ,  ,   .           .

     ,          ,  ,      .  ,     : ,     [37 -  :             Caenorhabditis elegans,     302],    (  ),          .   ,      ,    , ,   ,    ,       .       ,           ,          [38 -    ,   -    , ., ,   : Marcus G. Artificial Intelligence Is Stuck// The New York Times. 2017. July 29.].    ,     .

      .     ,         (     ),            [39 -    recursive self improvement,  .].      ,   [40 -      ,    .      ,     . . .].        ,    ,    ,     ,        .             ,   .           ,    :      . ,   ,          . ,     , , -   ,    ,    .       ,               .

      ?       .    ,            (  ):          .           ? ,  ⠫   .       ,          :   ,      .        .           -       ,       ,    ,      ,          .     ,         .

        :        .     

    ,     .       ,   , , ,   ,       :       .  ,     ,     ,    - .  , , ,     ,      .

   ,    ,         [41 -    symbol grounding problem,   :     ,   ,   .     ,      .].  ,  ,         . ,  ,  ?      ,      ⠫   ?[42 -     ,            .]      :     ,   ,       .     (),       (   ,     ).       ,     ,   .      ,    ,   ,   ?        ?  ,    ,       ,     ?

       (    ),    ,        .               ?   ,      ,       . , ,         (, , ),    ,    .  ,      ,      ![43 -    moral rightness model.]   ,      ,   ,     ? , ,          ?   ,           ,      ,       - ,      .    (    )        ? ,    ,        .    ,         ,               ,    [44 -      :  ,                       (sic!).],  ,     .

, ,      - ,    ,            .   ,      -      ,     ,     .           .       ,      . ,  -,   ,       ,    . ,      ,  ,            ,      ,        ,   .          ,    .       :   , ,             ,       . ,   ,     , ,   .         ,  ,    ,    [45 -      ,   substrate independence,   :  , ,   , ,     ,        .].  -     ,     ,     ,   , . , , ,   ,  .      ,       .  ,  蠫 ,    ,    ,    .  ,     ⠫                .         [46 - ., : Jirak D. et al. Grasping Language  A Short Story on Embodiment// Consciousness and Cognition. 2010. Vol.19. 3.].

         .    ;  ,      .      .    :      .   ,     ,    ,      .        ,       ,  , , .     ,         ,    ; , ,  ; ,      ,  ,     .  ,  .   ,   ,   ,   .     ,      ?

          ,    [47 - .    : Damasio A. LOrdre trange des choses. Odile Jacob, 2017.],    .   ,      .      ,          .        ( ,   ,   )   .     ,    ,        .         ,    ,        .    ,        ,   .        ,  , ,  . ,       .  ,     ,     ,        ,      :         ,    .           ,   . ,   ,           .

              :         ,     . ,    ,      [48 - Damasio A. Spinoza avait raison. Odile Jacob, 2014.].      ,  ,     ,            ,    ,    .   ,          ,       ,     [49 -  . .  2.  7. //  .  2? . .: , 1997. .1. .294.].        ,  .     ,   ,            ,  ,  ,  .

   ,             ,       ,     :       ,  ,   ,     ,  .    ,   ,  ,     ,      .  , ,    , ,    .        ; ,          .          :   ,        .      ,   ,   ,         ,       ,     .        :   ,   .     .    ,    , : , , , .

       ,     [50 - .     : Bonnefon J.-F., Shariff A., Rahwan?I. The Social Dilemma of Autonomous Vehicles// Science. 2016. Vol.352. 6293.].          ,       ,      ,      ? ,       ,    ,  ,       .   ,        ,       [51 -     ,    1960? .].         :         , ,     ?  ,          ?

     ,  .    ,           ,         ,      .     ,  ,       .          :   ,  .      ,   ,     ,         .          .             .      ,      ?

  ,    ,   .      [52 -     ,    ,       .],              ,  ,  .   , ,    ,      ,      -(,  ..).     ,    ,            .         ,    .     ,       .   :      ,      [53 -  . .  2.  27//   2? . .1. .311.].          ,    .

     ,    ? .      ?  .   flatus vocis,     .    ,   .         ,      

           .         ,    .  ,   ,           , , ,     . , ,   : ,         ,   ߻?[54 - Kurzweil R. How to Create a Mind. Viking, 2012.]         ߻  ?    ,    ߻       .          ,      .        .  ,       ,               ,      [55 -     , ,  ,    :  .],    . ,      ,    ,    :         ,      [56 -  . .  3.  2. .339.].        ,    .

    .   ,     .

   ,     ,    ,   ,          -  .          .        ,     ,         .               :   . ,    ,          [57 - .:Hoffmann M., Pfeifer R. The Implications of Embodiment for Behavior and Cognition: Animal and Robotic Case Studies// Implications of Embodiment/ ed. by W. Tschacher, C. Bergomi. Imprint Academic, 2012.].    IBM      ,  [58 - URL: https://www.ibmbigdatahub.com/blog/embodied-cognitionfuture-ai.].         ,          .   ,       ,    Homo sapiens?   ,    ,       .     .  ,       




        ( )


         ,  ,    ,   ,       .   ,              .  ,  , ,      .

         :    ,         ,         ,    .     ,     .     Google Maps: ,    ,  ,     .      ,      ,   .   ,       ,      .         ,      ,      .           ,  .

    ,       .             ,           (    , koine aisthesis).          ,    ,    [59 -  .  .  12.  .].   ,     ,      .          ; ,      (      ),  ,    .      , , ,    ,      .     .         ,        

   ,      ,     ,     .       ,  ,      [60 -    ࠫ  ,    蠫 .].

        ,         .        ,             .      ,     .      ,    .        ,     ,      .     ,    .        .

 ,    .       ,       :        .        ,     .     , ,   ; ,    .        - ,      ,     . ,   ,          ,    ,     .    ,     .     , ,      .   ,   ,     .        ,      ,     -  ,      . ,      ? ,        .      .   ,    ,       ,     .   !     ,   .

,   ,      ,    .

   :

 .

     . , ,   ,          ,   .

, ,     

    !  .

 ,  ,     .         ,   .  ,    ,  .       .

  ?   .

  ,   ,     -  .

   ?

,    ,     .    ,   ,       , ,  .

        ,  ,    ,      .   ,  :   ,    ,        ,             ,      ?

 ,         . ,  , .

  ,  -      :        ,   ,           ,          ,   ?  ,       ,            ?  .   ,     .

     ?   

!  .     ?

,      .   .    .

  , ,     ,     

!   .

, ,  .       .       .

,   

     ?

   .   . ,     -     .   ,  .

   ,           .

 !    ,    ,       .

    .           .

              .          ,      . ,   ,    ,     ,        ,         .         .    ,      .

    .

    ? ,    ?

 ,      -  ,       ,    .

     ,   ,       Facebook. ,    .    ,    ,       .         !            .

  ,     ,        -.       ,   ,   ,   ,    ,          ,    .     ,    ; ,            ,       .         .         .




  .


   .

   ,     (https://www.litres.ru/pages/biblio_book/?art=69553129)  .

      Visa, MasterCard, Maestro,    ,   ,     ,  PayPal, WebMoney, ., QIWI ,       .



notes








1


 .  . : , 1993. .95.     ,    .




2


Philosopher kings // The Economist. 2014. Oct 4. URL: https://www.economist.com/business/2014/10/04/philosopher-kings




3


  Meta,    . . .




4


( . serendipity)  ,      . . .




5


https://medium.com/@romainserman/silicon-valley-etiquette6934cf6f8f73




6


Valry P.Le Bilan de lintelligence [1935]. Allia, 2016.




7


Leibniz W. Nova methodus pro maximis et minimis. 1668.




8


   . :Davis M. The Universal Computer. W.W. Norton, 2000.




9


    the right to err   ,    . ..




10


     1938,         .     . : Audier S. Le Colloque Lippmann. Aux origines du nolibralisme. Le Bord de leau, 2008.




11


, 2017     (Center for Economic Policy Research)           42%   18%  .




12


 .   .   Google, Tor . .: Individuum, 2019.




13


       . : https://developers.google.com/machine-learning/glossary/




14


    . . .




15


High R. The Era of Cognitive Systems: An Inside Look at IBM Watson and How It Works. IBM Corporation. Redbooks, 2012.




16


     1955.       -       .




17


  . :Wooldridge M. Artificial Intelligence. Penguin, 2018.




18


   .:Gron A. Hands-on Machine Learning With Scikit-Learn and TensorFlow: Concepts, Tools, and Techniques to Build Intelligent Systems. OReilly Media, 2017.




19


.:Sutton R. The Bitter Lesson. 2019. March 13. URL: http://www.incompleteideas.net/IncIdeas/BitterLesson.html




20


       .




21


ami.withgoogle.com




22


 ʸ    2018.     ,  ,            (.    ,  Stable Diffusion, DALL-E 2, Midjourney  ). . .




23


,    (NLP,  Natural Language Processing)   ,     ,       .  ,  NLP , ,  ,  ,    ..




24


-    ,   - (     ).   -    .     ,            -,        .




25


. / . .// . . . 4? . .2. .: , 1993. . .




26


Searle J. Minds, Brains, and Programs// Behavioral and Brain Sciences. 1980. Vol.3. 3.




27


 .   :   . .:  , 2018.




28


Poe E. Maelzels Chess Player// The Southern Literary Messenger. 1836. Vol.2. 5.




29


.:Hofstadter D. Fluid Concepts and Creative Analogies: Computer Models of the Fundamental Mechanisms of Thought. Basic Books, 1995,   4,   ,    -.




30


     ,      .




31


Sharkey N. The Evitability of Autonomous Robot Warfare// International Review of the Red Cross. 2012. Vol.94. 886.




32


,  ,   2017 ࠫ-  ,          .              .




33


 MIT  3D- ,     ,     (   ,  ..)      !




34


Russell S., Norvig P.Artificial Intelligence: A Modern Approach [1995]. 2009.




35


             3.0 (Tegmark M. Life 3.0. Penguin Books, 2018, .     ).




36


Harris M. Inside the First Church of Artificial Intelligence?// Wired. 2017. Nov. 15. URL: https://www.wired.com/story/anthony-levandowski-artificialintelligence-religion/




37


 :             Caenorhabditis elegans,     302




38


   ,   -    , ., ,   : Marcus G. Artificial Intelligence Is Stuck// The New York Times. 2017. July 29.




39


   recursive self improvement,  .




40


     ,    .      ,     . . .




41


   symbol grounding problem,   :     ,   ,   .     ,      .




42


    ,            .




43


   moral rightness model.




44


     :  ,                       (sic!).




45


     ,   substrate independence,   :  , ,   , ,     ,        .




46


., : Jirak D. et al. Grasping Language  A Short Story on Embodiment// Consciousness and Cognition. 2010. Vol.19. 3.




47


.    : Damasio A. LOrdre trange des choses. Odile Jacob, 2017.




48


Damasio A. Spinoza avait raison. Odile Jacob, 2014.




49


 . .  2.  7. //  .  2? . .: , 1997. .1. .294.




50


.     : Bonnefon J.-F., Shariff A., Rahwan?I. The Social Dilemma of Autonomous Vehicles// Science. 2016. Vol.352. 6293.




51


    ,    1960? .




52


    ,    ,       .




53


 . .  2.  27//   2? . .1. .311.




54


Kurzweil R. How to Create a Mind. Viking, 2012.




55


    , ,  ,    :  .




56


 . .  3.  2. .339.




57


.:Hoffmann M., Pfeifer R. The Implications of Embodiment for Behavior and Cognition: Animal and Robotic Case Studies// Implications of Embodiment/ ed. by W. Tschacher, C. Bergomi. Imprint Academic, 2012.




58


URL: https://www.ibmbigdatahub.com/blog/embodied-cognitionfuture-ai.




59


 .  .  12.  .




60


   ࠫ  ,    蠫 .


