Неклассическая машина: проблема контроля

В статье развивается взгляд на искусственный интеллект (ИИ) с позиции онтологии машины. Показано, что концепт машины в современной философии функционирует в качестве нового всеобщего, однако сама машина мыслится понятной по умолчанию. Такой подход не позволяет видеть специфику машины нового типа - генеративного ИИ. Внимание к машине как таковой и к новому типу машин позволяет более реалистично оценивать как перспективы, так и опасности нашего взаимодействия с ИИ. В первую очередь в работе поставлен вопрос: можно ли исключить фактор сделанности из представления об онтологии машины? На основе ключевых позиций теории машин и механизмов русской инженерной школы сделаны выводы, во-первых, о том, что фактор генезиса машины невозможно исключить из понимания сущности машины; во-вторых, что онтология машины в классическом ее понимании связана с минимизацией хаотических степеней свободы. Однако, обратившись к рассмотрению машины ИИ, мы должны подвергнуть сомнению это базовое для онтологии машины положение, потому что человечество построило новый вид машин. В нем фактор сделанности остается ключевым, но взаимоотношения с хаосом существенно меняются. Для анализа генеративного ИИ с точки зрения онтологии вводится концепт «неклассическая машина». Это машина, в которой хаос становится элементом ее механизмов. Раскрывается специфика неклассической машины. Рассмотрена парадигма «механической прозрачности», которая, как надеются цифровые инженеры, вернет машине ИИ характеристики контролируемости и онтологической сопряженности с когницией человека.

The article develops a view of artificial intelligence (AI) from the perspective of machine ontology. It demonstrates that the concept of a machine in contemporary philosophy functions as a new universal, yet the machine itself is conceived as self-evident. This approach obscures the specificity of a new type of machine - generative AI. Focusing on the machine as such and this new type of machine allows for a more realistic assessment of both the prospects and the dangers of our interaction with AI. First and foremost, the paper asks: can the factor of manufacturedness be excluded from the concept of machine ontology? Drawing on key tenets of the theory of machines and mechanisms from the Russian engineering school, the author concludes, firstly, that the factor of machine genesis cannot be excluded from understanding the essence of a machine; and secondly, that machine ontology, in its classical understanding, is associated with the minimization of chaotic degrees of freedom. However, when considering the AI machine, we must question this fundamental assumption of machine ontology, for humanity has built a new type of machine. In this new type, the factor of manufacturedness remains key, but its relationship with chaos has changed significantly. To analyze generative AI from an ontological perspective, the concept of a "non-classical machine" is introduced. This is a machine in which chaos becomes an integral part of its mechanisms. The specific characteristics of a non-classical machine are explored. The paradigm of "mechanical transparency" is considered, which, digital engineers hope, will restore controllability and ontological congruence with human cognition to AI machines.

машина, неклассическая машина, онтология машины, генеративный ИИ, естественные абстракции, прозрачность ИИ
machine, non-classical machine, machine ontology, generative AI, natural abstractions, AI transparency

Полный текст>>