Что такое бережные технологии? Отношения человека и технологий с точки зрения этики

Аннотация

Технологии не просто выполняют функции. Они определяют, какие варианты нам доступны, распределяют власть, хранят историю наших действий и влияют на то, как мы можем действовать, отказываться, исправлять ошибки и затрагивать жизнь других людей.

В этой статье термин «бережные технологии» помогает рассмотреть этику технологий через отношения, которые они создают. Особенно ясно этическая сторона таких отношений проявляется, когда взаимодействие идёт не по плану: при ошибках, неопределённости, уязвимости, отказе и конфликте.

В статье предложены пять предварительных измерений бережности: понятность, соразмерность, возможность восстановления, уважение к отказу и внимание к отношениям и контексту. Также рассматривается значение цифровой идентичности. Ответственность в отношениях с технологиями взаимна, но распределяется не поровну: пользователи отвечают за свои действия, а разработчики и организации несут большую ответственность, поскольку сильнее влияют на доступный выбор, стимулы и последствия.

Это отправная точка для оценки технологий с учётом конкретной ситуации и для дальнейших исследований. Предложенный подход не является законченной этической теорией или стандартом сертификации.

Ключевые слова: бережные технологии, этика технологий, искусственный интеллект, человеко-компьютерное взаимодействие, цифровая идентичность, ответственность в отношениях, персонализация, автономия, этика заботы

1. Введение

Технологии не просто решают задачи. Они определяют наши возможности, ожидания и условия, в которых мы действуем. Система может сделать одно действие простым, а другое — почти невозможным. Она может сохранить работу человека или стереть её, объяснить решение или скрыть его, принять отказ или снова и снова пытаться его изменить.

Это важно с точки зрения этики, потому что технологии всё чаще участвуют в значимых для нас сферах: общении, медицине, образовании, работе, развлечениях, финансах и жизни сообществ.

В этике технологий уже существуют подходы, которые изучают ценности, заложенные в дизайн, политическую роль технических объектов, влияние технологий на моральные решения, автономию человека, заботу, доступность, приватность, безопасность и справедливость. Эта статья дополняет их вопросом:

Какие отношения технологическая система создаёт с пользователями и с другими людьми, которых затрагивает её использование?

Термин «бережные технологии» предлагается как способ изучить эти отношения.

В данном случае слово «бережные» не означает просто приятные, удобные, снисходительные или мягкие по оформлению. Бережность также не требует отказываться от границ, трудной информации и необходимых ограничений. Важно другое: как система или организация использует свою власть? Понятны ли её действия, соразмерны ли они ситуации, учитывают ли обстоятельства и допускают ли исправление?

Качество этих отношений особенно заметно, когда взаимодействие идёт не по плану. Что происходит, если человек ошибается, не понимает, становится уязвимым, отказывает в просьбе или оспаривает систему? Такие моменты выявляют предпосылки, скрытые при обычном использовании.

У статьи четыре цели. Во-первых, соотнести бережные технологии с существующими работами по этике технологий и смежным областям. Во-вторых, предложить пять критических моментов для исследования отношений: ошибку, неопределённость, уязвимость, отказ и конфликт. В-третьих, разработать пять предварительных измерений бережности: понятность, соразмерность, возможность восстановления, уважение к отказу и внимание к отношениям и контексту. Наконец, рассмотреть цифровую идентичность и показать, что ответственность в технологических отношениях взаимна, но не симметрична.

Этот подход пока носит предварительный и теоретический характер. Его задача — помогать исследованиям и этическому обсуждению, а не выставлять универсальные оценки или удостоверять этичность технологии.

2. Концептуальные основания

Идея бережных технологий опирается на исследования, показывающие, что технологии нельзя считать нейтральными инструментами, существующими отдельно от общества.

Winner (1980) утверждает, что артефакты могут воплощать политические порядки и распределять власть. Nissenbaum (2001) также показывает, как компьютерные системы воплощают ценности через дизайн, классификации и предпосылки. Ценностно-ориентированное проектирование предлагает методы выявления и учёта человеческих ценностей на всех этапах разработки технологий (Friedman, Hendry, & Borning, 2017).

Технологии также опосредуют моральный опыт и действия. Verbeek (2011) описывает, как технологические артефакты формируют восприятие, решения и поведение. Такой взгляд переносит этическое внимание с одних лишь намерений разработчиков и пользователей на участие технологий в практических ситуациях.

Этика заботы привносит понимание морали через отношения. Tronto (1993) подчёркивает внимательность, ответственность, компетентность и отзывчивость в практиках заботы. Эти идеи важны для технологических систем, особенно когда они реагируют на уязвимость или заявляют о поддержке благополучия. Однако технологическая забота требует осторожности: система может представлять слежку, ограничения или манипуляцию как заботу о пользователе.

Реляционные подходы к автономии оспаривают представление о ней как об изолированном индивидуальном выборе. Способность действовать формируется в социальных отношениях, материальных условиях и структурах власти (Mackenzie & Stoljar, 2000). Поэтому технически доступный вариант может не означать реального выбора, если отказ несёт несоразмерные издержки или альтернативы намеренно скрыты.

Borgmann (1984) изучает, как технологии организуют взаимодействие с миром. Концепция спокойных технологий Weiser и Brown (1996) предлагает уместное перемещение технологий между центром и периферией внимания. Спокойствие может снижать когнитивную нагрузку, но одной лишь спокойностью бережность не определяется. Спокойный интерфейс может скрывать эксплуатацию, а этически необходимое предупреждение — обоснованно требовать внимания.

Эти традиции создают важнейшие основания: технологии воплощают ценности, распределяют власть, опосредуют действия, влияют на автономию и участвуют в отношениях заботы. Бережные технологии не заменяют эти подходы, а добавляют более узкий аналитический фокус:

Как технологии используют свою власть в отношениях с людьми — особенно при сопротивлении, неопределённости или сбое?

3. Определение бережных технологий через отношения с людьми

Технологию нельзя назвать бережной только из-за её внешнего вида, назначения или отдельных функций. Бережность проявляется в отношениях между системой, её пользователями, управляющими ею организациями и другими людьми, на которых влияет её использование.

В статье предлагается следующее предварительное определение:

Бережная технология — это система, включающая людей, технические средства и правила их взаимодействия. Она ответственно использует свою власть: остаётся понятной, реагирует соразмерно, помогает исправлять ошибки и восстанавливаться после сбоев, уважает отказ и учитывает обстоятельства тех, на кого существенно влияет.

В основе определения — отношения: одна и та же функция может иметь разный этический смысл в разных ситуациях. Напоминание помогает одному человеку, но давит на другого. Персонализация облегчает работу или превращается в слежку. Дополнительный шаг может быть лишним препятствием, а может уберечь от необратимого решения.

Поэтому бережность зависит не только от интерфейса. Важны правила организации, её бизнес-модель, работа с данными, помощь сотрудников, доступность сервиса, порядок применения правил и то, кто сталкивается с последствиями решений.

Выражение «осуществляет свою власть» не означает, что машина обязательно имеет намерения или самостоятельную моральную субъектность. Технологии формируют действия, поскольку через них разработчики и организации задают возможности, значения по умолчанию, стимулы и ограничения. Ответственность остаётся за соответствующими людьми и организациями — соразмерно их знаниям, власти и способности вмешаться.

Ответственное использование власти — важная часть определения. Бережность не означает, что у системы нет власти. Технологии неизбежно позволяют одни действия, ограничивают другие и влияют на то, как человек понимает свои возможности. Важно, чтобы эта власть служила обоснованным целям, применялась понятно и соразмерно и допускала оспаривание.

Поэтому бережные технологии — не полная теория технологической этики. Отношения могут казаться уважительными в момент взаимодействия, но опираться на эксплуатацию труда, экологический ущерб, дискриминацию или вторжение в личные данные. Бережность нужно оценивать наряду со справедливостью, безопасностью, приватностью, доступностью, подотчётностью и устойчивостью.

Этот подход помогает обратить внимание на повседневное взаимодействие с технологиями и на правила организаций, которые за ним стоят:

• Как система реагирует, когда человек не может следовать ожидаемому пути?
• Можно ли исправить ошибочное представление системы о человеке?
• Есть ли у человека реальная возможность отказаться?
• Соразмерны ли ограничения тому вреду, который они предотвращают?
• Кто получает пользу от взаимодействия, а кто несёт его скрытые издержки?
• Что можно восстановить после ошибки, конфликта или потери доступа?

Эти вопросы особенно важны, когда привычный ход взаимодействия нарушается.

4. Пять критических моментов

Этическое качество отношений с технологией часто наиболее заметно, когда обычное взаимодействие затрудняется. Особенно показательны пять моментов: ошибка, неопределённость, уязвимость, отказ и конфликт.

Эти ситуации могут сочетаться. Ошибка системы вызывает неопределённость; угроза потерять важную услугу делает человека уязвимым; непринятый отказ приводит к конфликту. Это ориентиры для анализа, а не жёсткое деление на категории.

4.1 Ошибка

Ошибаться могут пользователи, системы, организации или несколько участников одновременно.

Бережная реакция не исходит из того, что любая ошибка — результат небрежности, некомпетентности или злого умысла. Она помогает человеку разобраться в случившемся, сохранить работу, которую ещё можно спасти, и по возможности исправить ошибку.

Важные вопросы:

• Объясняет ли система ошибку понятным языком?
• Отличает ли она случайную ошибку от намеренного злоупотребления?
• Может ли человек исправить неточную информацию?
• Сохраняется ли незавершённая работа?
• Соответствуют ли последствия серьёзности ошибки и тому, как часто она повторяется?
• Учится ли система на повторяющихся сбоях или каждый раз заставляет пользователей разбираться с их последствиями?

Учитывать ошибки при разработке — значит признавать: ошибаться могут и люди, и технологии.

4.2 Неопределённость

Технологии часто работают в условиях неопределённости, особенно когда прогнозируют, рекомендуют, классифицируют или создают информацию.

Бережная система не должна изображать уверенность только ради того, чтобы казаться компетентной. Ей нужно объяснять свои ограничения так, чтобы человек понимал, насколько важны возможные последствия и что он может сделать с этой информацией.

Недостаток объяснений может вызвать необоснованное доверие. Избыток технических деталей тоже не всегда помогает: пользователю приходится самому в них разбираться, но понимания не прибавляется.

Важные вопросы:

• Что известно точно, что является оценкой, а что остаётся неизвестным?
• Насколько надёжен результат в данном контексте?
• Что может произойти, если положиться на этот результат?
• Желательна ли дополнительная проверка?
• Может ли человек понять, почему система пришла к этому выводу?
• Можно ли задать вопросы о том, что остаётся неопределённым?

Уместная форма выражения неопределённости зависит от контекста. Развлекательная рекомендация с низкими ставками и система поддержки медицинских решений требуют разного уровня объяснений и осторожности.

4.3 Уязвимость

Уязвимость может возникать из-за инвалидности, болезни, возраста, финансовой нестабильности, эмоционального неблагополучия, языковых барьеров, недостаточной цифровой грамотности, зависимости от услуги или чрезвычайной ситуации. Она бывает временной, структурной или созданной самой технологией.

Бережность требует замечать уязвимость человека, но не видеть в нём только эту уязвимость.

Системе стоит учитывать, есть ли у всех пользователей способности, ресурсы и устойчивые условия, которых требует привычный сценарий. Важно также проверять, не усиливают ли контроль персонализация, наблюдение и вмешательство, которые заявлены как защита уязвимых людей.

Важные вопросы:

• Кто с большей вероятностью столкнётся с трудностями или вредом?
• Предлагает ли система доступные альтернативы?
• Можно ли получить помощь без избыточного раскрытия данных?
• Помощь даёт человеку больше возможностей действовать самому или решает за него?
• Не продолжает ли система считать человека уязвимым только потому, что раньше он переживал трудный период?
• Не перекладываются ли риски и дополнительная работа на других людей?

Бережная помощь соответствует ситуации и может быть пересмотрена. Она не подменяет решение человека незаметно навязанным решением «для его же блага».

4.4 Отказ

Возможность отказаться показывает, насколько свободно человек даёт согласие.

Человек может отказаться от сбора данных, рекомендации или персонализации, сделать паузу или перестать пользоваться сервисом. Если отказ формально есть, но он запутан, влечёт наказание или почти невозможен, система на деле не уважает это решение.

Важные вопросы:

• Понятно ли обозначена возможность отказа?
• Объясняются ли последствия без запугивания?
• Продолжает ли система давить на человека после принятого решения?
• Не ограничивают ли другие, не связанные с запросом услуги, чтобы добиться согласия?
• Можно ли позже отозвать согласие?
• Можно ли уйти из сервиса и забрать данные или работу, которые разумно было бы сохранить?

Уважение к отказу не означает, что любое желаемое действие должно оставаться доступным. Организации могут устанавливать законные условия или предотвращать вредное поведение. Этический вопрос в том, уместны ли ограничения, соразмерны ли они и сообщены ли честно.

4.5 Конфликт

Конфликт возникает, когда у участников расходятся интересы, взгляды на ситуацию или ценности.

Пользователь может оспаривать решение модерации или автоматическую классификацию, а может использовать систему во вред другим. Организациям бывает необходимо защищать участников, обеспечивать соблюдение правил или ограничивать доступ.

Бережность не означает отказа от оценок и решений. Она требует учитывать обстоятельства, объяснять решение и выбирать соразмерные меры.

Важные вопросы:

• Может ли затронутый человек понять решение?
• Может ли человек объяснить свою ситуацию и быть услышанным?
• Различает ли система единичные ошибки, повторные нарушения и серьёзный вред?
• Учитываются ли интересы других затронутых людей?
• Доступно ли обжалование, когда оно уместно?
• Можно ли восстановить доступ на разумных условиях?
• Помогает ли применение правил защищать людей, не унижая их и не допуская произвола?

Конфликт показывает, почему ответственность нельзя возложить только на непосредственного пользователя или только на систему. Более широкое институциональное устройство определяет, чья версия будет услышана, какой вред признан и какие возможности исправления останутся.

5. Пять измерений бережности

Пять критических моментов показывают, когда этическое качество отношений с технологией особенно заметно. Следующие пять измерений описывают качества, поддерживающие бережность в этих моментах: понятность, соразмерность, возможность восстановления, уважение к отказу и внимание к отношениям и контексту.

Эти измерения пересекаются и иногда конфликтуют. Повышение понятности может увеличивать когнитивную нагрузку. Восстановление может противоречить приватности или безопасности. Учёт контекста может требовать данных, которые не следует собирать. Поэтому это ориентиры для контекстного суждения, а не автоматические требования.

5.1 Понятность

Понятность означает, что человек может разобраться в работе системы, в своих отношениях с ней и в последствиях собственных действий.

Для этого не нужно знать всю техническую архитектуру. Достаточно информации, которая позволяет осмысленно участвовать: что делает система, какие данные использует, почему принято важное решение, что остаётся неизвестным и какие варианты доступны.

Одного раскрытия информации недостаточно. Она должна быть доступной, своевременной и относиться к делу. Если объяснение спрятано в длинном документе, в котором трудно разобраться, система не становится от этого понятной.

5.2 Соразмерность

Соразмерность означает, что реакция системы или организации соответствует серьёзности возможного вреда, его вероятности и обстоятельствам.

Предупреждения, ограничения, проверки и санкции могут быть оправданны. Но они не должны превышать разумно необходимое для достижения их законной цели.

Соразмерная система различает случайную ошибку, непонимание, повторяющиеся нарушения и намеренный вред. Она учитывает серьёзность ситуации, уязвимость затронутых участников и обратимость последствий.

5.3 Возможность восстановления

Возможность восстановления означает, что люди могут исправить ошибки, оспорить неверные выводы о себе и вернуться к полноценному участию после сбоя или другого нарушения привычной работы.

При разработке технологий часто больше заботятся об эффективности обычной работы, чем о восстановлении после сбоя. Но с точки зрения этики особенно важно именно то, что происходит, когда что-то идёт не так.

Восстановление может включать отмену действий, сохранение прогресса, исправление данных, доступную поддержку, обжалование, восстановление доступа и переносимость данных. Не все последствия можно или нужно отменять, но необратимые исходы требуют более веского обоснования и ясных гарантий защиты.

5.4 Уважение к отказу

Уважать отказ — значит давать человеку реальную возможность отклонить предложение, сделать паузу, отозвать согласие или уйти.

Не стоит считать каждый отказ препятствием, которое нужно преодолеть. Повторные запросы, скрытые кнопки отказа, невыгодные настройки по умолчанию и искусственная срочность превращают формальную свободу выбора в давление.

Уважать отказ — значит признавать, что люди могут передумать. Поэтому согласие по возможности должно допускать пересмотр, а система должна различать временную паузу, отказ от отдельной функции и прекращение отношений целиком.

5.5 Внимание к отношениям и контексту

Это означает, что система учитывает обстоятельства людей, их зависимости и значимые различия между ними.

Важно не только то, что человек нажимает или выбирает, но и почему он действует именно так. Язык, инвалидность, нехватка денег, прежний опыт, социальное давление и зависимость от сервиса влияют на то, насколько взаимодействие доступно и добровольно.

Внимание к человеку не должно превращаться в бесконечный сбор данных. Для ответственного отношения не нужно знать о нём всё. Важно понимать, какие обстоятельства действительно имеют значение, использовать наименее вмешивающиеся способы и позволять человеку исправить или отвергнуть выводы системы о себе.

Внимание к отношениям распространяется и за пределы непосредственного пользователя. Удобство одного человека может перекладывать скрытый труд, риски или экологические издержки на других. Поэтому отношения следует оценивать в рамках более широкого социотехнического устройства.

6. Цифровая идентичность и ответственность в отношениях

Цифровые технологии хранят всё больше следов нашей жизни: разговоры, творческие работы, предпочтения, связи с людьми, репутацию, покупки, местоположение и привычки. Всё это может иметь для человека и практическую, и эмоциональную ценность.

Цифровой профиль не даёт полного представления о человеке. Данные отражают лишь часть жизни, зависят от обстоятельств и могут содержать ошибки. Выводы устаревают, а поведение из одной ситуации легко неверно истолковать в другой.

Но и считать цифровую идентичность просто информацией, которую можно безболезненно удалить, неверно. На платформе могут оставаться годы работы, отношений с людьми или участия в сообществе. Поэтому потеря доступа — не всегда просто неудобство.

Бережная технология должна признавать оба положения:

• цифровая идентичность может быть по-настоящему важна для человека и его связей с другими;
• при этом ни один цифровой профиль не должен навсегда и целиком определять, кем является человек.

Из этого следуют обязанности организаций. Люди должны по возможности просматривать и исправлять важную информацию. Существенные автоматизированные интерпретации должны допускать оспаривание. Исторические данные не должны незаметно определять каждое будущее взаимодействие. Удаление, приостановка или утрата доступа должны быть соразмерны вреду и учитывать ценность, накопленную в аккаунте.

Это не означает безусловного права оставаться на любой платформе или сохранять любой доступ. Сервисам может понадобиться удалять вредный контент, ограничивать поведение или защищать других участников. Но при таких решениях следует учитывать, что теряется, можно ли выгрузить нужные данные и есть ли путь к исправлению.

Ответственность есть у обеих сторон, но она не одинакова.

Пользователи тоже несут моральную ответственность: за то, как они используют возможности системы, влияют на других, обманывают, эксплуатируют или причиняют вред. Влияние технологий не отменяет способности человека принимать решения и отвечать за них.

Однако организации и разработчики обычно обладают большей властью над устройством отношений. Они определяют настройки по умолчанию, стимулы, классификации, доступные варианты выбора, механизмы применения правил и распределение видимости и рисков. Большая структурная власть создаёт большую ответственность за условия, в которых действуют другие.

Поэтому ответственность должна зависеть от знаний, власти, возможности вмешаться и вклада в причинённый вред. Нельзя автоматически возлагать её на человека, чьё действие оказалось последним перед видимым результатом.

7. От принципов к практике

Подход бережных технологий полезен в проектировании, управлении организациями и исследованиях. Он не задаёт единственный правильный стиль интерфейса, а помогает ставить вопросы на всех этапах жизни системы.

7.1 Проектирование и разработка

При проектировании и разработке команды могут спрашивать:

• Какие ошибки можно предвидеть?
• Какие действия трудно или невозможно отменить?
• В каких случаях пользователи могут неверно понять возможности системы или принять предположение за уверенный вывод?
• Как сделать отказ ясным и реальным?
• Кому будет труднее пользоваться системой по предусмотренному сценарию?
• Какая информация о контексте действительно необходима?
• Чья незаметная работа делает взаимодействие удобным для остальных?
• Что происходит с работой, данными или отношениями человека при потере доступа?

Прототип должен показывать не только идеальный сценарий, но и то, что происходит при сбое, отказе или попытке всё исправить. Проверки доступности и участие будущих пользователей помогают заметить трудности и скрытую нагрузку, которые разработчики могли упустить.

7.2 Управление организациями

Одного интерфейса недостаточно, чтобы сделать технологию бережной.

Обжалование, правила модерации, поддержка, хранение данных, отмена подписок, блокировка аккаунтов и возможность рассмотрения человеком — решения организаций. Ясное объяснение не компенсирует по существу несоразмерную политику.

Поэтому организациям следует проверять, поддерживают ли их стимулы бережность или подрывают её. Бизнес-модель, максимизирующая внимание, затрудняющая уход или собирающая как можно больше личных данных, может противоречить уважению к отказу и вниманию к отношениям.

7.3 Исследования и оценка

Подход можно использовать и в качественных, и в количественных исследованиях.

Возможные методы: интервью, исследования удобства использования, совместные семинары, анализ политик и инцидентов, исследования доступности и контролируемые эксперименты. Результаты могут касаться понимания, ощущаемого давления, успешности восстановления, доступности обжалования, обоснованности доверия, исправления ошибок и распределения нагрузки.

Важно изучать не только обычное использование, но и все пять критических моментов. Система может хорошо работать, пока всё идёт по плану, и подвести именно тогда, когда человеку особенно нужна поддержка.

Не стоит торопиться сводить бережность к одному баллу. Общая оценка может скрыть серьёзные проблемы: понятный интерфейс не компенсирует невозможность отказаться или вред, который перекладывается на работников.

8. Предварительная матрица оценки

Пять критических моментов и пять измерений бережности можно объединить в матрицу. Она нужна не для универсальной оценки, а для того, чтобы заметить вопросы, которые иначе легко упустить.

Матрица показывает противоречия. Понятное вмешательство всё же может быть несоразмерным. Восстановимая система может подрывать отказ постоянным давлением. Учёт контекста способен повышать справедливость и одновременно создавать риски приватности при избыточном сборе данных.

Критический момент	Понятность	Соразмерность	Возможность восстановления	Уважение к отказу	Внимание к отношениям и контексту
Ошибка	Может ли человек понять, что произошло?	Соответствуют ли последствия ошибке?	Можно ли восстановить работу, доступ или точную информацию?	Может ли человек отвергнуть неверную интерпретацию?	Учитывает ли реакция контекст и различия в возможностях?
Неопределённость	Понятно ли объяснены ограничения и степень уверенности в результате?	Соответствует ли осторожность возможным последствиям?	Можно ли пересмотреть решение при появлении новой информации?	Может ли человек отказаться или обратиться к другому источнику помощи?	Понятно ли объяснена неопределённость тем людям, которых она касается?
Уязвимость	Может ли человек разобраться в рисках, доступных вариантах и способах получить помощь?	Ограничено ли вмешательство разумно необходимым?	Можно ли позже пересмотреть временное состояние или классификацию?	Можно ли отказаться от помощи без чрезмерных потерь?	Отвечает ли помощь потребностям человека, не сводя его личность к этим потребностям?
Отказ	Ясны ли доступные варианты и последствия?	Обоснованны ли ограничения, вызванные отказом?	Можно ли отозвать согласие или дать его снова?	Принимается ли решение без манипуляций и повторного давления?	Не делают ли зависимость от сервиса, трудности доступа или неравенство власти отказ лишь формальным?
Конфликт	Можно ли понять решение и его основания?	Соответствуют ли меры воздействия причинённому вреду?	Возможны ли исправление, обжалование или восстановление?	Может ли человек оспорить интерпретацию системы?	Учтены ли интересы и обстоятельства всех, кого решение существенно затрагивает?

Поэтому оценка требует суждения, а не механического соблюдения правил. В разных областях различаются значимые вопросы, доказательства и допустимые компромиссы. Здравоохранение, развлечения, образование, финансы и социальное общение предполагают разные ставки и отношения зависимости.

Матрица — исходная структура исследования. Её полезность зависит от участия затронутых людей, внимания к стимулам организаций и готовности изучать вред за пределами непосредственного интерфейса.

9. Ограничения и дальнейшие исследования

В нынешнем виде у концепции бережных технологий есть несколько ограничений.

Во-первых, схема остаётся широкой и требует адаптации к конкретным областям. Понятность, соразмерность и восстановление имеют разный смысл в здравоохранении, образовании, развлечениях, финансах и общественной инфраструктуре. Дальнейшие исследования должны разработать предметные трактовки, сохранив фокус на отношениях.

Во-вторых, бережность отчасти зависит от точки зрения. То, что одному кажется поддержкой, другой может ощущать как вторжение или патернализм. Поэтому необходимы совместные исследования с пользователями, непользователями, работниками и косвенно затронутыми сообществами.

В-третьих, противоречия между измерениями не всегда устранимы. Безопасность может ограничивать восстановление, приватность — учёт контекста, а защита от вреда — оправдывать отдельные ограничения отказа. Схема выявляет эти противоречия, но не разрешает их автоматически.

В-четвёртых, качество отношений в интерфейсе может скрывать более широкую несправедливость. Уважительное общение может соседствовать с эксплуатацией труда, экологически вредной инфраструктурой или дискриминационными практиками. Поэтому бережные технологии должны оставаться связанными с анализом справедливости, устойчивости, безопасности и политической власти.

В-пятых, словами о бережности тоже можно злоупотреблять. Организация может использовать спокойное оформление и заботливые формулировки, сохраняя манипуляции и чрезмерный контроль. Поэтому судить о бережности нужно по действиям, стимулам и последствиям, а не по образу бренда или заявлениям.

Дальнейшие исследования могут изучать:

• как люди в разных социальных и культурных контекстах понимают бережность технологий;
• можно ли оценивать пять измерений на практике, не сводя их к поверхностным показателям;
• как бережные реакции влияют на доверие, автономию, понимание и готовность добиваться исправления;
• как стимулы организаций поддерживают или подрывают восстановление и уважение к отказу;
• как схема применима к ИИ, государственным услугам, медицинским технологиям, играм и цифровым платформам;
• как включать в оценку интересы работников, сообществ и других косвенно затронутых сторон;
• когда вмешательство технологий действительно защищает человека, а когда решает за него.

Эмпирические исследования могут показать, что предложенные моменты и измерения требуют пересмотра. Схема должна оставаться открытой к исправлению людьми и сообществами, чьи отношения с технологиями она стремится понять.

10. Заключение

Этика технологий часто спрашивает, что системы делают, какие ценности воплощают и какие последствия создают. Статья предложила дополнительный вопрос об отношениях: как технология осуществляет власть во взаимодействии с людьми, особенно когда оно отклоняется от ожидаемого пути?

Бережная технология определена как система из людей, технических средств и правил их взаимодействия, которая ответственно использует свою власть. Она остаётся понятной, реагирует соразмерно, поддерживает восстановление, уважает отказ и учитывает обстоятельства тех, на кого существенно влияет.

Схема направляет внимание на пять критических моментов: ошибку, неопределённость, уязвимость, отказ и конфликт. Они показывают, видит ли система в людях полноценных участников, способных понимать, спрашивать, исправлять и уходить, или прежде всего объекты классификации и управления.

Бережность не означает вседозволенности, мягкой эстетики или отсутствия границ. Технологиям и организациям бывает необходимо предупреждать, ограничивать и вмешиваться. Этическое требование — осуществлять власть ради обоснованных целей, соразмерно вреду и с реальными возможностями объяснения, оспаривания и исправления.

Ответственность в отношениях с технологиями есть у обеих сторон, но она не одинакова. Пользователи отвечают за свои действия, а разработчики и организации несут большую ответственность за создаваемые условия, стимулы и последствия.

Концепция не предлагается как сертификат или замена справедливости, безопасности, приватности, доступности и устойчивости. Это отправная точка для изучения измерения технологической этики, которое может теряться за функциональностью и эффективностью: качества самих отношений.

Этическая сторона технологии особенно заметна, когда что-то идёт не так. Её реакция показывает не только возможности системы, но и то, как она относится к человеку.

Список литературы

1. Borgmann, A. (1984). Technology and the character of contemporary life: A philosophical inquiry. University of Chicago Press.

2. Friedman, B., Hendry, D. G., & Borning, A. (2017). A survey of value sensitive design methods. Foundations and Trends® in Human–Computer Interaction, 11(2), 63–125. https://doi.org/10.1561/1100000015

3. Mackenzie, C., & Stoljar, N. (Eds.). (2000). Relational autonomy: Feminist perspectives on autonomy, agency, and the social self. Oxford University Press.

4. Nissenbaum, H. (2001). How computer systems embody values. Computer, 34(3), 118–120. https://doi.org/10.1109/2.910905

5. Tronto, J. C. (1993). Moral boundaries: A political argument for an ethic of care. Routledge.

6. Verbeek, P.-P. (2011). Moralizing technology: Understanding and designing the morality of things. University of Chicago Press.

7. Weiser, M., & Brown, J. S. (1996). The coming age of calm technology. Xerox PARC.

8. Winner, L. (1980). Do artifacts have politics? Daedalus, 109(1), 121–136.

Как использовался ИИ

При подготовке статьи использовался ChatGPT компании OpenAI: для обсуждения литературы, развития концепции, организации структуры, языковой доработки и редактирования. Автор проверила цитируемые источники, критически оценила аргументы и сохраняет ответственность за идеи, интерпретации и окончательный текст статьи.