discourseДискурсDiscourse2412-85622658-7777СПбГЭТУ «ЛЭТИ»10.32603/2412-8562-2022-8-2-17-27discourse-478Research ArticleФИЛОСОФИЯPHILOSOPHYМашины и человеческая эпистемологияMachines and Human Epistemologyhttps://orcid.org/0000-0002-0973-2756ДёминТ. С.DeminT. S.

Дёмин Тимофей Сергеевич – ассистент кафедры философии 

ул. Профессора Попова, д. 5Ф, Санкт-Петербург, 197022

Timofei S. Demin – Assistant Lecturer at the Department of Philosophy, Saint Petersburg Electrotechnical University

5F Professor Popov str., St Petersburg 197022

detimofei@gmail.comhttps://orcid.org/0000-0002-9071-6138ФроловК. Г.FrolovK. G.

Фролов Константин Геннадьевич – кандидат философских наук (2017), научный сотрудник Международной лаборатории логики, лингвистики и формальной философии; научный сотрудник кафедры философии 

ул. Профессора Попова, 5Ф, Санкт-Петербург, 197022; Покровский б-р, д. 11, Москва, 109028

Konstantin G. Frolov – Can. Sci. (Philosophy) (2017), Research Officer at the International Laboratory for Logic, Linguistics and Formal Philosophy

Research Officer at the Department of Philosophy

11 Pokrovsky blvd., Moscow 109028

kgfrolov@etu.ruСанкт-Петербургский государственный электротехнический университет «ЛЭТИ» им. В. И. Ульянова (Ленина)Saint Petersburg Electrotechnical UniversityСанкт-Петербургский государственный электротехнический университет «ЛЭТИ» им. В. И. Ульянова (Ленина); НИУ «Высшая школа экономики»Saint Petersburg Electrotechnical University; Higher School of Economics202225042022821727Copyright © Дёмин Т.С., Фролов К.Г., 20222022Дёмин Т.С., Фролов К.Г.Demin T.S., Frolov K.G.Данная работа распространяется под лицензией Creative Commons Attribution 4.0.This work is licensed under a Creative Commons Attribution 4.0 License.https://discourse.elpub.ru/jour/article/view/478Введение

Введение. В статье анализируется структура эпистемологии знаний слабого искусственного интеллекта в сопоставлении со структурой эпистемологии знаний человека. Актуальность проблематики подобного рода объясняется востребованностью одного из наиболее динамично развивающихся разделов современной философии – философии искусственного интеллекта. Новизна исследования связана с идеей применения инструментов анализа, разработанных в рамках аналитической эпистемологии, к области искусственного интеллекта (ИИ).

Методология и источники

Методология и источники. Статья написана в рамках аналитической традиции в философии. Для исследования существенных аспектов понятия знания используется концептуальный анализ, предполагающий, что объяснение сложного явления требует выявления компонентов, из которых оно состоит. Этот метод лег в основу аналитической дискуссии о знании второй половины XX в. Также в статье применяется сравнительный анализ.

Результаты и обсуждение

Результаты и обсуждение. Знания людей отличаются тремя существенными характеристиками – наличием информационно-несущих ментальных состояний, их надежностью и фактивностью. Было проанализировано, насколько информационно-несущие внутренние состояния слабого ИИ соответствуют этим качествам. Был сделан вывод, что внутренние состояния могут считаться убеждениями при слабой трактовке, иметь высокую степень надежности при определенных условиях и способны обладать фактивностью в случае, если принять, что слабый ИИ обладает убеждениями.

Заключение

Заключение. Слабая трактовка понятия убеждения позволяет утверждать, что нейронные сети способны иметь убеждения. Более строгая трактовка понятия убеждения включает также требование понимания смысла. Однако в нашем распоряжении нет удовлетворительной теории понимания смысла. При этом условие надежности представляет собой единственный из критериев знания, которому могут соответствовать функциональные состояния машин в случае некоторых задач, в связи с чем особенно остро встает проблема генеральности.

Introduction

Introduction. The article analyzes the structure of the epistemology of knowledge of weak artificial intelligence in comparison with the structure of human knowledge. The article was written within the framework of one of the most demanded branch sections of philosophy – the philosophy of artificial intelligence. The novelty of the research is based on the idea of applying the analysis of knowledge developed within the framework of analytical epistemology to the field of artificial intelligence.

Methodology and sources

Methodology and sources. The article is written in the framework of analytical tradition in philosophy. We use conceptual analysis to analyze the most crucial aspects of knowledge. This method assumes that in order to explain a complex phenomenon, it is necessary to analyze its components. This method formed the basis of an analytical discussion about knowledge in the second half of the 20th century. The article also uses comparative analysis.

Results and discussion

Results and discussion. People's knowledge is characterized by three essential characteristics – the presence of information-bearing mental states, their reliability, and factuality. We analyzed to what extent the information-carrying internal states of a weak AI correspond to these qualities. The authors concluded that internal states can be considered beliefs if they are weakly interpreted, they can have a high degree of reliability under certain conditions, and they can have factuality if we accept that a weak AI has beliefs.

Conclusion

Conclusion. A weak interpretation of the concept of belief allows us to argue that neural networks are capable of having beliefs. A more rigorous interpretation of the concept of belief also includes the requirement to understand the meaning. However, we do not have at our disposal a satisfactory theory of understanding meaning. In this case, the condition of reliability is the only criterion of knowledge to which the functional states of machines can correspond in the case of certain tasks, in connection with which the problem of generality arises especially acutely.

эпистемологиязнаниеубеждениеискусственный интеллектэпистемология искусственного интеллектаусловие надежностиepistemologyknowledgebeliefartificial intelligenceepistemology of artificial intelligencesafety condirionReferencesЛакофф Д. Женщины, огонь и опасные вещи. Что категории языка говорят нам о мышлении / пер. с англ. И. Б. Шатуновского. М.: Языки славянской культуры, 2004.Lakoff, G. (2004), Women, Fire, and Dangerous Things: What Categories Reveal about the Mind, Transl. by Shatunovskii, I.B., Yazyki slavyanskoi kul'tury, Moscow, RUS.Лакофф Д., Джонсон М. Метафоры, которыми мы живем / пер. с англ. А. Н. Баранова и А. В. Морозовой. М.: УРСС, 2004.Lakoff G. and Johnson, M. (2004), Metaphors We Live By, Transl. by Baranov, A.N. and Morozova, A.V., URSS, Moscow, RUS.Searle J. R. Minds, brains, and programs // Behavioral and brain sciences. 1980. Vol. 3, iss. 3. P. 417–424. DOI: https://doi.org/10.1017/S0140525X00005756.Searle, J.R. (1980), “Minds, brains, and programs”, Behavioral and brain sciences, vol. 3, iss. 3,Chalmers D. J. The singularity: A philosophical analysis // Science fiction and philosophy: from time travel to superintelligence / S. Schneider (ed.). Chichester: Wiley-Blackwell. 2016. P. 171–224.pp. 417–424. DOI: https://doi.org/10.1017/S0140525X00005756.Ichikawa J. J, Steup M. The Analysis of Knowledge // The Stanford Encyclopedia of Philosophy / ed. E. N. Zalta, 2014. URL: https://plato.stanford.edu/archives/spr2014/entries/knowledge-analysis/ (дата обращения: 20.12.2021).Chalmers, D.J. (2016), “The singularity: A philosophical analysis”, Science fiction and philosophy: from time travel to superintelligence, in Schneider, S. (ed.), Wiley-Blackwell, Chichester, UK, P. 171–224.Pavese C. Knowledge How // The Stanford Encyclopedia of Philosophy / ed. E. N. Zalta, 2021. URL: https://plato.stanford.edu/entries/knowledge-how/ (дата обращения: 20.12.2021).Ichikawa, J.J. and Steup, M. (2014), “The Analysis of Knowledge”, The Stanford Encyclopedia of Philosophy, Zalta, E.N. (ed.), available at: https://plato.stanford.edu/archives/spr2014/entries/ knowledge-analysis/ (accessed 20.12.2021).Williamson T. Knowledge and its Limits. Oxford: Oxford Univ. Press, 2002. DOI: 10.1093/019925656X.001.0001.Pavese, C. (2021), “Knowledge How”, The Stanford Encyclopedia of Philosophy, Zalta, E.N. (ed.), available at: https://plato.stanford.edu/entries/knowledge-how/ (accessed 20.12.2021).Shope R. K. The analysis of Knowledge. Princeton: Princeton Univ. Press, 1983.Williamson, T. (2002), Knowledge and its Limits, Oxford Univ. Press, Oxford, UK. DOI:10.1093/019925656X.001.0001.Zagzebski L. On epistemology. Belmont, CA: Wadsworth Cengage Learning, 2009.Shope, R.K. (1983), The analysis of Knowledge, Princeton Univ. Press, Princeton, NJ, USA.Martin A., Santos L. R. What cognitive representations support primate theory of mind? // Trends in cognitive sciences. 2016. Vol. 20, iss. 5. P. 375–382. DOI: 10.1016/j.tics.2016.03.005.Zagzebski, L. (2009), On epistemology, Wadsworth Cengage Learning, Belmont, CA, USA.Davidson D. Rational animals // Dialectica. 1982. Vol. 36, no. 4. P. 317–327.Martin, A. and Santos, L.R. (2016), “What cognitive representations support primate theory of mind?”, Trends in cognitive sciences, vol. 20, iss. 5, pp. 375–382. DOI: 10.1016/j.tics.2016.03.005.Dennett D.C. Real patterns // The J. of Philosophy. 1991. Vol. 88, no. 1. P. 27–51. DOI: https://doi.org/10.2307/2027085.Davidson, D. (1982), “Rational animals”, Dialectica, vol. 36, no. 4. pp. 317–327.Фролов К. Г. Метафизика соответствия: некоторые подходы к корреспондентной теории истины // Эпистемология и философия науки. 2018. Т. 55, № 1. C. 83–98. DOI: 10.5840/eps201855110.Dennett, D. (1991), “Real patterns”, The J. of Philosophy, vol. 88, no. 1, pp. 27–51. DOI: https://doi.org/10.2307/2027085.Лобанов С. Д. О проблеме надежности знания и дилемме истина/знание // Вестн. Вятского гос. ун-та. 2011. № 4 (4). C. 26–27.Frolov, K.G. (2018), “Metaphysics of correspondence: some approaches to the classical theory of truth”, Epistemology & Philosophy of Science, vol. 55, no. 1, pp. 83–98. DOI: 10.5840/eps201855110.McGlynn A. Knowledge First? London: Palgrave Macmillan, 2014. DOI: https://doi.org/10.1057/9781137026460.Lobanov, S.D. (2011), “About of problem knowledge reliability and question of truth/knowledge dilemma”, Herald of Vyatka State Humanitarian Univ., no. 4 (4), pp. 26–27.Feldman R. Reliability and justification // The Monist. 1985. Vol. 68, iss. 2. P. 159–174. DOI: 10.5840/monist198568226.McGlynn, A. (2014), Knowledge First?, Palgrave Macmillan, London, UK. DOI: https://doi.org/Pritchard D. Knowledge and understanding // Virtue epistemology naturalized / A. Fairweather (ed.). Cham: Springer, 2014. Vol 366. P. 315–327. DOI: https://doi.org/10.1007/978-3-319-04672-3_18.1057/9781137026460.Feldman, R. (1985), “Reliability and justification”, The Monist, vol. 68, iss. 2, pp. 159–174.Feldman, R. (1985), “Reliability and justification”, The Monist, vol. 68, iss. 2, pp. 159–174.DOI: 10.5840/monist198568226.DOI: 10.5840/monist198568226.Pritchard, D. (2014), “Knowledge and understanding”, Virtue epistemology naturalized, in Fair-weather, A. (ed.), vol. 366, Springer, Cham, CHE, pp. 315–327. DOI: https://doi.org/10.1007/978-3-319-04672-3_18.Pritchard, D. (2014), “Knowledge and understanding”, Virtue epistemology naturalized, in Fair-weather, A. (ed.), vol. 366, Springer, Cham, CHE, pp. 315–327. DOI: https://doi.org/10.1007/978-3-319-04672-3_18.

The authors declare that there are no conflicts of interest present.