Издаётся с сентября 1923 года
DOI: 10.33622/0869-7019
Russian Science Citation Index (RSCI) на платформе Web of Science


  • ИНФОРМАЦИОННЫЕ СИСТЕМЫ В СТРОИТЕЛЬСТВЕ
  • Риски интеграции технологий искусственного интеллекта в «зеленые» стандарты
  • УДК 004.896:347.77.012.39
    doi: 10.33622/0869-7019.2023.08.102-108
    Валерий Иванович ТЕЛИЧЕНКО, академик РААСН, доктор технических наук, профессор, президент, president@mgsu.ru
    Азарий Абрамович ЛАПИДУС, доктор технических наук, профессор, зав. кафедрой технологии и организации строительного производства, lapidusaa@mgsu.ru
    Михаил Юрьевич СЛЕСАРЕВ, доктор технических наук, профессор, slesarev@mgsu.ru
    Национальный исследовательский Московский государственный строительный университет (НИУ МГСУ), 129337 Москва, Ярославское ш., 26
    Аннотация. На примере разработанных в корпорации Microsoft документации по технике обеспечения безопасности и компании OpenAI нейросети ChatGPT исследуются риски использования искусственного интеллекта в креативном синтезе экологически ориентированных прогрессивных или перспективных словесных и графических образов прорывных технологий строительства и ЖКХ. Цель исследования - идентифицировать риски и наметить подходы к интеграции и разработке "зеленых" стандартов безопасности технологий искусственного интеллекта для использования в прорывных технологиях строительного производства. Задачи исследования - поиск критериев идентификации рисков использования технологий искусственного интеллекта, способного креативно генерировать словесные и графические образы технологий строительства и ЖКХ. Объект исследования составляют стандарты кибербезопасности технологий искусственного интеллекта в аспектах экологического мониторинга и автоматизированного процесса экспертизы перспективных технологий строительства и ЖКХ. Предмет исследования включает в себя предпосылки интеграции и разработки "зеленых" стандартов комплексной безопасности технологий искусственного интеллекта для экологически ориентированного строительного производства.
    Ключевые слова: риск, искусственный интеллект, "зеленые" стандарты, среда жизнедеятельности, интегрированная (комплексная) безопасность, креативный синтез технологий, технология строительного производства, риск интеграции искусственного интеллекта
  • СПИСОК ИСТОЧНИКОВ
    1. Слесарев М. Ю., Теличенко В. И. Перспективы развития нормативной базы информационных систем "зеленой" cтандартизации // International Journal for Computational Civil and Structural Engineering. 2020. № 16(4). С. 92-102. doi: 10.22337/2587-9618-2020-16-4-92-102
    2. Теличенко В. И., Слесарев М. Ю. "Зеленая" стандартизация будущего - фактор экологической безопасности среды жизнедеятельности // Промышленное и гражданское строительство. 2018. № 8. С. 90-97.
    3. Теличенко В. И., Слесарев М. Ю. Искусственный интеллект в технологии создания инноваций // Актуальные проблемы компьютерного моделирования конструкций и сооружений : тезисы докл. VIII Междунар. симпозиума (Тамбов, 17-21 мая 2023 г.). С. 104-106.
    4. Слесарев М. Ю., Морозенко А. А., Белов В. В., Сазонова С. А. Обзор автоматизированных технологий и возможности их применения при строительстве атомных электростанций // Актуальные проблемы строительной отрасли и образования - 2021 : сб. докл. Второй национальной науч. конф. М., 2022. С. 851-859.
    5. Slesarev M. Modeling and formation of environmental safety management systems of construction technologies [Моделирование и формирование систем управления экологической безопасностью строительных технологий]. E3S Web of Conferences, 2021, vol. 258, p. 09084. doi: 10.1051/e3sconf/202125809084
    6. Slesarev M., Dinh Dap N. "Green" standards will ensure safe living environment ["Зеленые" стандарты обеспечат безопасную среду обитания]. MATEC Web of Conferences, 2018, vol. 196, p. 04022. Available at: https://www.matec-conferences.org/articles/matecconf/pdf/2018/55/matecconf_rsp2018_04022.pdf
    7. Слесарев М. Ю., Теличенко В. И. Обзор норм, методов и моделей геоэкологии в аспектах проблем "зеленой" стандартизации строительства // Геоэкология. Инженерная геология, гидрогеология, геокриология. 2020. № 1. С. 42-46.
    8. Слесарев М. Ю., Теличенко В. И. "Зеленые" стандарты среды жизнедеятельности на примерах мировых лидирующих инновационных компаний // Системотехника строительства. Киберфизические строительные системы - 2019 : сб. материалов Всероссийской научно-практической конференции, 2019. С. 484-493.
    9. Теличенко В. И., Слесарев М. Ю. "Зеленая" стандартизация технологий формирования природоподобной среды жизнедеятельности // Вестник МГСУ. 2018. Т. 13. № 5(116). С. 558-567.
    10. Мариненков Д. В. Опыт применения технологий информационного моделирования при реализации инфраструктурных проектов топливно-энергетического комплекса // Вестник МГСУ. 2016. № 1. С. 181-191.
    11. Абаева А. В. Инновационные технологии строительства зданий и сооружений: 3D-печать // Столыпинский вестник. 2022. № 6. С. 3293-3299.
    12. Heaven W. D. Why GPT-3 is the best and worst of AI right now [Почему GPT-3 на данный момент является лучшим и худшим из ИИ]. Available at: https://www.technologyreview.com/2021/02/24/1017797/gpt3-best-worst-ai-openai-natural-language/
    13. Kumar R. Sh. Sh., O'Brien D., Kendra A. et al. Failure modes in machine learning [Режимы отказов в машинном обучении]. Available at: https://learn.microsoft.com/security/failure-modes-in-machine-learning/
    14. Wei et al. Adversarial examples in deep learning: characterization and divergence [Состязательные примеры в глубоком обучении: характеристика и расхождение]. Available at: https://arxiv.org/pdf/1807.00051.pdf.
    15. Salem et al. ML-Leaks: Model and data independent membership inference attacks and defenses on machine learning models [ML-утечки: Атаки на вывод членства, независимый от моделей и данных, и средства защиты на моделях машинного обучения]. Available at: https://arxiv.org/pdf/1806.01246v2.pdf.
    16. Fredrikson M., Jha S., Ristenpart T. Model inversion attacks that exploit confidence information and basic countermeasures [Модели инверсионных атак, использующие конфиденциальную информацию и основные контрмеры]. Proc. of the 2015 ACM SIGSAC conference on computer and communications security (CCS). Available at: https://rist.tech.cornell.edu/papers/mi-ccs.pdf
    17. Папернот H., Макданиэль П. Системный пример в массовом обучении AIWTB 2017 URL: https://arxiv.org/abs/1605.07277
    18. Tramиr F. Stealing machine learning models via prediction APIs [Кража моделей машинного обучения с помощью API-интерфейсов прогнозирования]. Available at: https://floriantramer.com/docs/papers/sec16stealing.pdf
    19. Tramиr F., Papernot N., Goodfellow I. et al. The space of trasnsferable adversarial examples [Пространство переносимых состязательных примеров]. Available at: https://arxiv.org/pdf/1704.03453.pdf
    20. Long Yu., Bindschaedler V., Wang L. et al. Understanding membership inferences on well-generalized learning models [Понимание выводов о принадлежности к хорошо обобщенным моделям обучения]. Available at: https://arxiv.org/abs/1802.04889
    21. Simon-Gabriel et al. Adversarial vulnerability of neural networks increases with input dimension [Состязательная уязвимость нейронных сетей возрастает с увеличением размера входных данных], ArXiv 2018. Available at: https://arxiv.org/abs/1802.04889
    22. Lyu et al. A unified gradient regularization family for adversarial examples [Семейство унифицированных градиентных регуляризаций для состязательных примеров], ICDM 2015. Available at: https://doi.org/10.48550/arXiv.1511.06385
    23. Biggioa B., Roli F. Wild patterns: ten years after the rise of adversarial machine learning - NeCS 2019 [Дикие закономерности: десять лет спустя после появления состязательного машинного обучения]. Available at: https://arxiv.org/pdf/1712.03141.pdf
    24. Incer I. et al. Adversarially robust malware detection using monotonic classification [Надежное обнаружение вредоносных программ с использованием монотонной классификации]. Available at: https://people.eecs.berkeley.edu/~daw/papers/monotonic-iwspa18.pdf
  • Для цитирования: Теличенко В. И., Лапидус А. А., Слесарев М. Ю. Риски интеграции технологий искусственного интеллекта в "зеленые" стандарты // Промышленное и гражданское строительство. 2023. № 8. С. 102-108. doi: 10.33622/0869-7019.2023.08.102-108

НАЗАД