タグを設定したオブジェクトを取得するときは以下のように記述することで、対象となるタグが設定されているオブジェクトを全部取得できます。
オブジェクトは配列で取得されます。

GameObject[] tagobjs = GameObject.FindGameObjectsWithTag("TargetTag");

取得したオブジェクトを削除する

上記で取得したオブジェクトを削除したい場合は以下のように記述することができます。

foreach (GameObject obj in tagobjs) {
	Destroy (obj);
}