Для того, что бы создать собственное диалоговое окно надо сделать следующее:

1) Создайте программу в диалоговом режиме ( с поддежкой MFC )
2) Назовите её TEST, что бы было лучше сравнивать с моей рабочей программой
3) Главный класс вашей программы будет CTestDlg
4) Что бы создать другую диалоговую панель нужно создать новый класс, для этого выбери закладку ResourceView -> правой кнопкой на Dialog -> Insert Dialog -> создастся новый диалог.
5) Имя диалога можно менять, поставте IDD_MY_DIALOG
6) Дальше надо зарегистрировать новый класс, для этого: при открытом новом диалоге( это обязательно ) надо вызвать ClassWizard( в верхнем меню) -> Create new class -> надо ввести имя класса ( введите CMyDialog( MyDialog.cpp), имя должно начинаться с C, что означает class ) -> два раза ОК
7) Теперь надо, чтобы выша главная программа "узнала" новый класс -> в начале файла TestDlg.cpp напишите строчку


#include "MyDialog.h"

8) Ну вот и всё, теперь можно использовать новое диалоговое окно ->


CMyDialog MyDlg;
MyDlg.DoModal();


Отсюда можно взять рабочую программу в диалоговом режиме, в которой используется собственное диалоговое окно.