Для чего нужен стиль DS_CONTROL?

Это перевод What is the DS_CONTROL style for? Автор: Реймонд Чен.

Стиль диалоговых окон DS_CONTROL указывает, что создаваемое диалоговое окно будет использоваться как дочернее в другом диалоге, нежели будет диалоговым окном верхнего уровня.

Вложенные диалоговые окна едва ли самое редкое зрелище. Например, вы можете видеть их в диалоге "Свойства" (property sheets). Каждая страничка в окне свойств является отдельным диалогом; все они живут внутри внешнего диалога. Вложенные диалоги иногда используются в общих файловых диалогах (common file dialogs): вы можете видеть одного из них в действии, когда вы вызываете "Сохранить как" в Блокноте. Дополнительные опции сохранения внизу окна диалога и являются вложенным диалогом.

Когда вы устанавливаете стиль DS_CONTROL в шаблоне (template) диалога (или устанавливаете расширенный стиль WS_EX_CONTROLPARENT для обычного окна), то в игру вступает куча новых правил.

Во-первых, стили WS_CAPTION и WS_SYSMENU в вашем диалоге игнорируются. Потому что вы теперь являетесь дочерним окном, а не окном верхнего уровня (top-level window), так что у вас не может быть заголовка или системного меню (заголовок и меню получаются от внешнего окна).

Во-вторых, функции навигации по диалогу (такие как GetNextDlgTabItem) будут рекурсивно перебирать окна, помеченные WS_EX_CONTROLPARENT, когда они проверяют элементы управления в диалоге (в случае GetNextDlgTabItem - потому что она ищет контрол для передачи ему фокуса). Без этого расширенного стиля, поиск контролов рассматривает вложенный диалог как один большой контрол, а не как контейнер для других контролов.

Когда вы создаёте диалог со стилем DS_CONTROL, вы непременно используете одну из функций типа CreateDialogParam, нежели одну из диалоговых функций типа DialogBoxParam, потому что модальный цикл контролируется внешним диалогом, а не внутренним.

Это рекурсивное поведение важно для избежания бесконечного цикла в менеджере диалогов (dialog manager). Когда вы просите функцию GetNextDlgTabItem найти предыдущий элемент, то она берёт исходный контрол, затем проходит по контролам в диалоге, пока не вернётся в исходную же точку, в этот момент она возвращает последний из увиденных перед исходным. Если вы забудете пометить свой диалог как DS_CONTROL, и фокус будет в под-диалоге, то перебор элементов не войдёт во вложенный диалог и не сможет вернуться к исходному элементу. Диалоговый менеджер будет бесконечно перебирать контролы во внешнем диалоге, ища исходный контрол и не находя его, т.к. он лежит во вложенном диалоге без стиля DS_CONTROL.

Эта проблема существует и без стиля DS_CONTROL. Если вы запустите поиск от запрещённого или невидимого контрола, то перебор контролов никогда не вернётся к исходному контролу, т.к. невидимые и отключенный контролы пропускаются при "tab-бинге" по диалогу.