Соціально-етичні проблеми інформатики

Проблема штучного інтелекту

Роздуми над природою інформатики часто призводять до порівняння комп'ютера з мозком людини. У цьому зв'язку протягом багатьох десятиліть увагу дослідників привертає стаття А. Тьюрінга "Обчислювальні машини й розум". Тьюринг був переконаний, що прогрес інформатики сприятиме її неухильного зростання. Він поставив мету визначити ступінь ефективності імітації комп'ютером інтелекту людини, для чого запропонував тест, що реалізується за допомогою імітаційної гри. Опитувальний почергово задає питання в безособовій формі, наприклад у письмовому вигляді, які знаходяться в ізольованому приміщенні комп'ютера і людині. За обраний проміжок часу експерт повинен ідентифікувати комп'ютер і людини. Якщо йому цього не вдається зробити, то він змушений визнати тотожність обох: комп'ютер, що витримав тест, подібний людині, з яким його порівнювали. Тьюринг був переконаний, що до 2000 р запитувач - індивід середнього рівня розвитку - буде в змозі протягом п'яти хвилин відрізнити комп'ютер від людини з імовірністю не більше 70%. Тьюринг прагнув поставити питання максимально науково, уникаючи розхожих уявлень як про комп'ютерах, так і про мислення людини. Проте термін "думаючі машини" він використовував дуже часто.

Думка експерта

Сер Роджер Пенроуз, відомий англійський учений, по суті, повторює аргументацію А. Тьюринга: "Мені здаються досить обгрунтованими доводи на користь того, що успішно пройдений тест Тьюринга є вказівка на присутність думки, інтелекту, розуміння чи свідомості. Справді, на чому ще можуть грунтуватися наші переконання в присутності цих якостей в інших людей, окрім як на бесіді з ними? "

А. Тьюринг відмінно усвідомлював, що придуманий ним тест вже за задумом покликаний вказати на відому тотожність комп'ютера і людини. Він справедливо вважав, що його ідея викличе десятки заперечень, і, принаймні, дев'ять з них він передбачив, щоразу показуючи, що вони не спростовують схожість комп'ютера і людини.

  • 1. Математичний аргумент: математичним теоріям притаманні певні обмеження, то ж поширюється і на обчислювальні машини. Звідси робиться висновок, що машинам притаманні обмеження, не характерні для мислення людей. Але, по-перше, цей висновок приймається без доказів. По-друге, люди також роблять помилки, але при цьому вони продовжують вважати себе досконалими істотами. По-третє, завжди потрібно пам'ятати, що комп'ютери по ряду моментів навіть перевершують людей.
  • 2. Аргумент від свідомості: на відміну від людей комп'ютери не володіють свідомістю, насамперед почуттями. Тьюринг зазначав, що питання про природу свідомості не проясниться належним чином. Особливо важливо, що за умови правильних відповідей машини на поставлені їй запитання ми не зможемо приписати почуття виключно людині.
  • 3. Аргумент про відсутність у комп'ютера багатьох здібностей людини, зокрема здатності бути розумним, спритним, красивим, доброзичливим, ініціативним, мати почуття гумору, відрізняти добро від зла, робити помилки, любити, насолоджуватися їжею, витягувати уроки з життєвого досвіду, правильно використовувати слова, думати про себе самого, реалізовувати різні лінії поведінки, створювати щось принципово нове. На це заперечення Тьюринг відповідає так само, як і на аргумент від свідомості: будь смисли зосереджені у відповідях. Про почуття й емоції людей слід судити за відповідями людей, а вони можуть бути такими ж, як у комп'ютерів.
  • 4. Аргумент леді Лавлейс: машини роблять лише те, що люди наказують їм, а не щось принципово нове. Тьюринг вважав, що мова йде про позиції, згідно з якою недооцінюється значимість виведення наслідків з причин і загальних принципів.
  • 5. Аргумент про безперервність нервової системи: мається на увазі, що вона не імітується цифровим (дискретним) комп'ютером. Тьюринг зазначав, що дискретність станів комп'ютера не виключає надання будь-яких різновидів безперервності.
  • 6. Аргумент про неформальне характері поведінки людей: вважається, що така поведінка неможливо імітувати за допомогою комп'ютера. Тьюринг не був згоден з цією думкою. Спроба пояснити поведінку людей пов'язана із з'ясуванням правил їх поведінки, а вони підвладні імітації.
  • 7. Аргумент про надчуттєвого сприйнятті: про явищах телепатії, ясновидіння, передбачення і психокинеза. Тьюринг визнавав наявність цих явищ, але вважав, що і їх комп'ютерне уявлення цілком можливо.

Таким чином, в оцінці можливостей інформатики А. Тьюринг був завзятим оптимістом. Для одного із засновників інформатики така позиція цілком природна і позбавлена нарочитості.

Слабкий і сильний AI. Важливою віхою на шляху розвитку поняття штучного інтелекту - AI (скор. Від англ. Artificial intelligence) стала стаття Дж. Серлі (1990), в якій він ввів уявлення про слабкому і сильному штучному інтеллекте1. Згідно з тезою сильного AI належним чином запрограмований комп'ютер володіє свідомістю. В рамках тези про слабкому AI комп'ютер є всього лише допоміжним пристроєм, що дозволяє поряд з іншими об'єктами вивчати також і мозок. Серл приймає тезу про слабкому AI, але рішуче заперечує проти положення про сильному AI. Суть його заперечень полягає в тому, що комп'ютер маніпулює формальними символами, проте у нього немає інтенціональності, спрямованості на об'єкт уваги; можна сказати, що він володіє синтаксисом, але не семантикою. Комп'ютер не інтерпретує і не мислить.

"Китайська кімната" Джона Серлі

Бажаючи бути максимально переконливим, Серл придумав уявний експеримент, який назвав "китайська кімната".

Англієць, що знаходиться в ізольованій кімнаті, має у своєму розпорядженні книги на китайською та англійською мовами, у тому числі словники. Китайської мови англієць не знає, але саме на ньому від нього вимагають відповідей письмово на поставлені питання. Випробуваний начебто справляється з цим завданням, але це враження оманливе. По суті, він, користуючись словниками як деякими програмами, механічно переводить дійсно розуміються ним англійські вирази на мову китайських ієрогліфів. Випробуваний діє подібно до комп'ютера: він маніпулює ієрогліфами, але не розуміє їх сенсу.

Критики інтерпретації Серлі вважають, що він видав бажане за дійсне. Переклад з англійської на китайську мову не може здійснюватися бездумно. Якби Серл розглянув в єдності всю систему, тобто людини, книги як програму і базу даних, то йому довелося б звернутися до концепту свідомості. Можливо, випробуваному знадобляться роки навчання, перш ніж він зможе відповісти на поставлені питання. До того ж слід врахувати, що питання стимулюють мозок відповідає. Нарешті, заслуговує уваги і якість перекладу. Прихильник позиції Дж. Серлі сказав би, що комп'ютерні переклади вкрай невдалі, - аргумент, що свідчить про відсутність у процесора свідомості.

Цікаву позицію займають брати Дрейфуси1. Вони доводять, що за допомогою комп'ютерів можна моделювати роботу мозку, але до створення свідомості справа не доходить. Дрейфус вважають, що в класичний період своєї діяльності творці А1 несвідомо орієнтувалися на ідеали раціоналізму західної філософії, розроблені Платоном, Декартом, Лейбніцем, Кантом, Гуссерлем і молодим Вітгенштейнів. Згідно з цими ідеалам, наука починається з теорії, яка виступає як сукупність абстрактних Бесконтекстние принципів, що не залежать від конкретних ситуацій. Звідси випливає висновок, що будь-яка область формализуема, тобто може бути представлена у вигляді символьної репрезентації. Виходячи з цього, комп'ютерники надають самодостатнє значення програмам, але при цьому беруть до виду, що ідеали раціоналізму виявилися дієвими тільки в природознавстві.

Згідно Дрейфус, М. Хайдеггер і Л. Вітгенштейн показали, що "ми розумно ведемо себе в цьому світі, не маючи ніякої теорії світу. <...> Якщо праві Хайдеггер і Вітгенштейн, люди набагато Холистичность нейронних мереж. Інтелект повинен бути мотивований цілями і завданнями організму, в тому числі і тими цілями, які організм черпає з готівкової культури. Якщо мінімальна одиниця аналізу - цілісний організм, зчеплений з деяким цілісним світом культури, то нейронних мереж, як і символьно програмованим комп'ютерам, належить пройти ще довгий шлях ".

Думається, Дрейфус недооцінюють гідності теоретичного підходу. Посилання на авторитет Л. Вітгенштейна і М. Хайдеггера доводять, що в гуманітарній та буденною області теоретичний підхід не заможний. Обидва філософа були погано обізнані щодо успіхів гуманітарних і тим більше комп'ютерних наук, які аж ніяк не перекреслили ідеали теоретичного пізнання. Також помилково Дрейфус наполягають на Бесконтекстние теорій: гарна теорія завжди ситуативна, тобто враховує якийсь контекст.

Мислення як управління поняттями. Розглянуті вище тести А. Тьюринга і Дж. Серлі показують, що наше розуміння мислення все ще не витримує критики. Для відповіді на питання: "Що саме являє собою мислення?" необхідно спертися на досить авторитетну інстанцію. Бажано при цьому врахувати великий і по-справжньому актуальний досвід людства. Але де знайти бажану перспективу? Емпірично налаштовані дослідники схильні покладати великі надії на безпосереднє вивчення мозку. Їх аргументація проста: мислить мозок, отже, вивчивши його, ми отримуємо доступ до мислення як процесу. Однак такого розуміння мислення явно бракує теоретичної витонченості. Думається, що шуканим авторитетом є сучасна наука як трансдисциплінарності ціле. Тоді відповідь на сформульоване вище питання передбачає встановлення того спільного, що виражає сокровенне не однієї, а кожній з наук. Всі теорії зіткані з концептів, які певним чином зв'язуються один з одним за допомогою переходів. Тут необхідний перехід між поняттями, який у зразковому вигляді представлений в науках. Мислення - це управління поняттями. Назвемо це визначення УП-дефініцією. Зрозуміло, проти такого визначення можуть бути висунуті заперечення. Розглянемо ті з них, які представляються найбільш принциповими.

Можлива аргументація проти УП-дефініції

  • 1. УП-дефініція невраховуваних статусу ненаукового знання. Це враження оманливе: не тільки наукове, але й будь-яке інше знання має концептуальний характер. Навіть у казках присутні концепти, наприклад "Іван-дурник".
  • 2. Наука сама має проблемний характер, тому вона нездатна продукувати правильне визначення мислення. Наука дійсно насичена проблемами, але, по-перше, вони енергійно вивчаються в рамках метанауки, а по-друге, проблемність визначення не вказує на його неприйнятність. Важливо, щоб воно забезпечувало прогрес знання.
  • 3. УП-дефініція не враховує відмінність раціонального і чуттєвого. Переконання в тому, що мислення має справу з думками, але не з почуттями, включаючи емоції, явно застаріло. Зміст почуттів та емоцій неможливо усвідомити без концептів. Залишається лише дивуватися широкому поширенню в науці дуалізму "думки - почуття" і, відповідно, "мислення - відчування". Почуття - це різновиди понять.
  • 4. УП-дефініція не враховує ментального характеру мислення. У науці XX ст. сталася мовна революція. З'ясувалося, що концептуальний лад ментальноеті, мови, а також об'єктів, так само як і відповідних їм процесів, - один і той же. Це означає, що неправомірно і далі прописувати мислення виключно ментальності, хоча ментальне і мовне мислення відрізняються один від одного лише своїми носіями.
  • 5. УП-дефініція допускає приписування атрибута мислення об'єктів, наприклад камінню. Це не так. Згідно УП-дефініції мислить тільки певний суб'єкт, а ним є той, хто ініціює і проводить концептуальну транедукцію. На даному етапі аналізу з упевненістю можна констатувати лише те, що мислить людина. Питання про мисленні комп'ютера поки залишається відкритим.

Переконавшись у грунтовності УП-дефініції, продовжимо аналіз, враховуючи мережеву структуру науки як єдиного цілого. Мислення як такого не існує, воно специфицируется в кожній з наук. Математика, фізика, інформатика, економіка - це різні типи мислення. Вивчення тієї чи іншої науки є разом з тим і осягненням деякого типу мислення, що реалізується відповідними вченими. При цьому з'ясовуються численні подробиці.

До тих пір поки фахівці в галузі інформатики не покидають рідну грунт, про мислення комп'ютера немає й мови: всім звичну реалізацію програми навряд чи хто назве мисленням. Ситуація змінюється після начебто цілком прийнятною і нешкідливою операції - порівняння комп'ютера безпосередньо з людиною. Це може проводитися трояким чином.

По-перше, цілком резонно порівнювати людини з комп'ютером в інформатиці. Людина вигадує зразки обчислень, парадигми програмування та відповідні їм мови, пише програми, реалізує їх за допомогою комп'ютерів, спостерігає електронні образи, вносить корективи в усі етапи концептуальної трансдукції. На тлі активності людини комп'ютер виявляється всього лише засобом, втіленням його задумів у технічній формі. Комп'ютер при такому типі порівняння очевидно не є рівнею людині.

По-друге, можна порівняти людину з комп'ютером, маючи на увазі інтернаучние зв'язку. У такому випадку комп'ютер служить засобом інтернаучного моделювання. Тут знову немає підстав приписувати комп'ютера атрибут мислення.

По-третє, комп'ютер порівнюється з людиною без будь-яких посилань на науки. Правомірність такого порівняння не ставили під питання любителі різних тестів, зокрема А. Тьюринг і Дж. Серл. Насправді ж воно просто неспроможне. Осмислення тестування неможливо без наук. Але як тільки дослідник звертається до них, він відразу ж зустрічається з першими двома випадками, в рамках яких комп'ютер є вельми своєрідним і надзвичайно ефективним технічним пристроєм. Однак він залишається всього лише засобом людини, яке необхідно йому для небудь реалізації програм, або для інтернаучного програмування. Таким чином, комп'ютер на відміну від людини не мислить, а це означає, що він не здійснює управління поняттями.

Вирішальна помилка Дж. Серлі полягала в наступному: розглядаючи мешканця "китайської кімнати", він вважав, що людина може обійтися без управління поняттями. Але той, хто перекладає з однієї мови на іншу, здійснює складні етапи концептуальної трансдукції. Всупереч Сёрлу людина в принципі не в змозі бути тотожним комп'ютера: навіть у "китайської кімнаті" він залишається мислячою істотою. Згідно аргументації Серлі, комп'ютер подібний переставшему мислити людині, але таких людей не буває. Дж. Серл не доведена відсутність у комп'ютера мислення. Відповідне доказ виходить лише при обліку пристрої інформатики як науки.

А. Тьюринг зробив ту ж метанаучного помилку, що і Дж. Серл: він відмовився від детального аналізу концептуального пристрою інформатики та комп'ютерного моделювання. Всі контраргументи він спростовує посиланням на всесилля науки, яка для нього уособлюється комп'ютером. При цьому Тьюринг постійно використовує прийом логічного біхевіоризму, засновником якого вважається Л. Вітгенштейн. В рамках логічного біхевіоризму постулюється, що мовні акти містять в собі все багатство ментальності людини, тому ментальність може бути виключена з аналізу. Ще один виверт полягає у використанні операціоналітского аргументу. У такому випадку свідомість редукується ні до мовним актам, а до поведінки, наприклад, роботів.

Отже, з позицій УП-дефініції питання про мисленні комп'ютера одержує досить очевидне дозвіл: комп'ютер не мислить. У такому випадку не доводиться обгрунтовано говорити не тільки про тезу сильного, але і слабкого інтелекту. Адже латиняни під словом розуміли розумову здатність людини, якій комп'ютери не володіють навіть в ослабленому вигляді.

Штучний інтелект.

Існує вельми розгалужене поле досліджень, іменоване штучним, інтелектом (ШІ). Так нерідко називають науку про автоматизацію поведінки, мислення і мовної діяльності людини. У такому випадку визначення "штучний інтелект" є всього лише умовним збірним терміном, який використовується для позначення сукупності наукових практик. Щоб більш-менш компетентно судити про ІІ слід розглянути відповідні галузі досліджень. Наведемо їх список із короткими коментарями. Зрозуміло, цей список може бути продовжений.

  • 1. Імітація ігор, зокрема гри в шахи. Не залишилося шахістів, що не зазнали гіркоту поразки в протистоянні з комп'ютером. Машина, порівнюючи між собою показники ефективності чергових ходів, вибирає з них найкраще продовження. Це можливо, оскільки відома відповідна оцінна функція. У її визначенні фіксується досвід шахістів, вироблені ними цінності. Зрозуміло, шахіст грає не з ЕОМ, а з тим колективом авторів, які створили програму для комп'ютера.
  • 2. Автоматичні міркування і доведення теорем. Спочатку комп'ютери застосовувалися для надання допомоги вченим у їх складних і нерідко утомливих розрахунках. Пізніше вони стали використовуватися для імітації дедуктивних доказів, розробки численних методів доказу теорем, наприклад таких, як методи резолюцій і натурального виводу, а також створення особливих формальних систем, зокрема логіки предикатів першого порядку, теорії типів, некласичних логік. Програми автоматичних міркувань і докази теорем застосовуються для вирішення все більшого числа проблем формальної логіки, математики та інформатики, перевірки програмного забезпечення та апаратних засобів. Проте всі спроби вивести універсальні схеми доказів закінчилися невдачами. Міркування людей завжди мають певну цільову спрямованість, яка змінюється від випадку до випадку. Відповідно доводиться міняти і способи імітації міркувань людини.
  • 3. Експертні системи. Їх особливість полягає в імітації в програмному вигляді знань експертів. Наприклад, у широко відомій програмі MYCIN використовуються знання фахівців медицини для діагностики та лікування спинального менінгіту та бактеріальних інфекцій крові. Добре відомо, що теорія неодмінно повинна бути специфікована до галузі дослідження. Краще за інших це вдається зробити експертам. Але комп'ютерному моделюванню піддаються не всі тонкощі теорії, а лише сукупність загальних міркувань. У результаті експертним системам часто бракує гнучкості, до того ж їх важко тестувати.
  • 4. Розуміння природних мов. Мова в першу чергу йде про створення програм, що дозволяють будувати речення і перекладати з однієї мови на іншу. Домогтися успіху в цій справі надзвичайно важко в силу багатофункціональності мови.
  • 5. Робототехніка. Робот повинен планувати і коригувати свої дії.
  • 6. Створення самообучающихся програм. Вихідна програма перебудовується в результаті аналізу змінюється середовища або об'єктів діяльності. Однак ознаки перебудови задаються програмістами.
  • 7. Нейронні мережі. Імітуються структури нейронів і механізми роботи людського мозку. Спочатку багато дослідників вважали, що це вирішальним чином наближає їх до розгадки таємниці людського мислення. Але згодом з'ясувалося, що в кращому випадку надбанням вчених виявляється деякий новий спосіб інтернаучного моделювання.
  • 8. Розпізнання образів, тобто здатність виділяти у вихідних даних повторення, схожості, регулярності та закономірності. В інформатиці ставиться завдання добитися автоматичного розпізнавання та впорядкування образів, зокрема мовних та візуальних.

Розглянувши галузі дослідження, які традиційно відносять до ШІ, розумно задатися питанням про наявність у них спільних рис. Адже при їх відсутності термін "штучний інтелект" доведеться рахувати всього лише економним позначенням сукупності теорій. Зазначені загальні риси намагалися виділити неодноразово, але без вирішального успіху. Ось лише деякі з них:

  • o здатність обробки будь-яких символів, а не тільки цифр;
  • o імітація систем, для яких характерне ціннісно-цільове поведінку;
  • o увагу до неалгоритмічних процесам;
  • o імітація прийняття рішень на основі нечіткої інформації;
  • o освоєння методами інформатики максимально специфічного знання.

Думається, що зазначені риси не є справді загальними, бо вони розсіяні по різних областях теорії штучного інтелекту. У кінцевому рахунку прагнення дати змістовну характеристику ІІ як особливої науки завжди пов'язане з певною інтерпретацією розуму людини, але саме це викликає дуже великі сумніви. Справа в тому, що робиться некритична спроба помістити розрізнені відомості про мислення людини під єдиний для них концептуальний ковпак. На жаль, при цьому не аналізується дійсний статус тих наук, з якими інформатика знаходиться в інтернаучних відносинах. Такого роду відносини явно потребують ретельної класифікації, але цього поки не зроблено. У результаті ІІ виступає як конгломерат концепцій, які знаменують собою найактуальнійші для інформатики пошукові напрямки.

Висновки

  • 1. Автори, які наполягають на розумових здібностях комп'ютерів, не дають достатньо суворого визначення мислення.
  • 2. Мислення - це управління поняттями.
  • 3. Поняттями управляє людина, при цьому комп'ютер є технічним засобом.
 
< Попер   ЗМІСТ   Наст >