ファイルを関連づけられたプログラムで開くためには ShellExecute() 関数を使います。

たとえばヘルプやサークル情報などを表示する際に、ダイアログではなく WEB サイトへ飛ばしたいという場合にこの関数を使うことができます。 Windows では http:// といったスキーマに対しても関連づけが有効になっておりますので、パスを指定するだけで関連づけられたプログラムと一緒に立ち上がります。

ShellExecute(hWindow,    // 親ウィンドウのハンドル
             "open",     // アクション名（後述）
             "test.htm", // パス（ファイル、プログラム、スキーマなど）
             NULL,       // アプリケーションへの引数
             NULL,       // デフォルトディレクトリ
             SW_SHOW);   // ウィンドウの可視状態

問題はアクション名の英語表記がわからないという点だと思いますが、とりあえず open, edit, explore, print, properties を覚えておくと良いと思います。それぞれ、開く、編集、エクスプローラ、印刷、プロパティを意味します。