誰も回答してないので、回答です。

まず、コードがバグだらけ。原因はこれ。このコードで正常に動作していますか？
ファイル名くらいは""で囲みましょう、配列の使い方ももう少しです。

さらに、きちんとTry〜Catch〜Finallyで正しくQuitしましょう。
ガベージコレクタの意義を正しく理解すること。理解できていないのならGC.Collectなどは初心者は使
わない事。
タスクに残ると言う表現もどうかと。正しくはプロセスが終了していないんですよね。プロセス云々と
頭を悩ませる前に正しいプログラミングを勉強しましょう。そうすれば、滅多にGC.Collect()を使う場
面はないですから。
Excelを利用したサンプル等はネットに転がっているので、サンプルを良く見てみましょう。