Das dürfte doch JavaFX sein, oder ? Mit reinem Java ist sowas überhaupt nicht möglich. Das ist 3D Grafik. JavaFX hat da viele kleine Extras was Desgin angeht. Standard Java Programme sehen genauso uninteressant aus wie jedes andere Standard-OS Programm auch. Vlt. kannste ja Nimbus Swing Look And Feel nehmen. Das ist schonmal ansprechender als Metal.
Um sowas zu erreichen, musste dein Programm schon von Anfang an ganz anders aufbauen. Such ne OpenGL Library oder sowas in der Richtung. Da kannste dann all diese besonderen Sachen wie Scahtten, Reflektion, 3D-Optik (Verzerrung) usw. machen.
Oder du begnügst dich eben mit JavaFX, was aber für richtig große Programme eher weniger sinnvoll ist.
Wenn du wirklich einfach nur das Look And Feel ändern willst, suchste einfach nach "Swing look and feel" bei google. Die meisten sind allerdings kostenpflichtig. Kannst auch mal bei swingX schauen. Ich meine die hätten auch ein paar eigene L&F, bin mir da aber grad nicht sicher.
Falls du den OpenGL Weg nimmst, sei gewarnt! Es gibt fast keine guten OpenSource OpenGL Java Gui Libraries. Sprich da musste dann selbst Hand anlegen. IMHO viel zu viel Aufwand, nur damit es etwas schöner wirkt. Es sei denn, du legst großen Wert auf diese 3D Geschichte, ansonten suchste halt andere L&Fs.
Achja, zu deiner FRage nochmal zurück:
Ja, die nehmen vermutlich eigene Guielelemente. Wobei die auch nicht das Problem sind. Die Grafiken für diese Elemente müssen ja erstmal erststellt werden. Wenn du kein Grafikass bist, solltest du zusätzliche GUI-Grafiken im Internet suchen. Stichwort "Web 2.0 Buttons" ist teilweise hilfreich evt.
Gruß,
Chris