Liegen zwei Punkte des ersten Polygons innerhalb des zweiten, fallen sie weg, liegen sie außerhalb, bleiben sie, und liegt einer innen und einer außen, musst du den Schnittpunkt mit dem ersten Polygon berechnen, die "innere" Hälfte wegwerfen und nur die äußere Hälfte behalten. Schwierig werden die Grenzfälle, wenn zwei Linien genau aufeinanderliegen, wenn sich ein Polygon selbst überschneidet usw.
java.awt.Polygon hat schon eine Funktion zum testen, ob ein Punkt "drinliegt".