Wie man XML Dateien mit Java einlesen kann, findest Du zuhauf in diesem Forum. Einfach mal die Forensuche benutzen und nach JDOM oder JAXP suchen.
Wenn Du die Dateien beispielsweise als JDOM Bäume eingelesen hast, ist es recht einfach. Dann musst Du bloß die Kinder des Roots von Baum 1 der Liste der Kinder des Roots von Baum 2 hinzufügen. Es ist in diesem Zusammenhang ratsam, die Elemente durch zwei Namespaces zu unterscheiden. Damit verhinderst Du auch Namenskonflikte.