Защита от атак в нейронных сетях

Задача

Исследование устойчивости распределённых и федеративных систем обучения к византийским атакам, при которых данные могут быть искажены. Необходима разработка защитных механизмов, адаптированных к особенностям современных методов обучения

Решение

1. Используем подмножество данных на сервере для оценки градиентов с устройств (пробная функция). Затем, выдаем веса устройствам в зависимости от влияния шагов по градиентам с данных устройств на минимизацию пробной функции с учётом истории и момента.

2. Используем достаточно общие предположения. Достаточно одного честного устройства (не требуем большинство честных) и похожести данных (вместо одинакового распределения на узловых машинах).  

3. Поддержка (a) локальных шагов, (b) частичного участия устройств, адаптивных методов (Adam)  

Бизнес-эффект

Совместно с 5 медицинскими учреждениями, были собраны данные с результатами ЭКГ. Часть данных была повреждена, в некоторых содержались ошибки разного рода. Благодаря предложенным методам, данные ошибки удалось найти, а поврежденные объекты были исключены из полного датасета.