Neuronales Netz

[Feeder]

Ich habe nun eine extrem kleinen Lernrate: 0.0001
Ich wiederhole 20000 mal. Aber das Feintuning funktioniert nicht, ich habe die Anzahl ähnlicher Werte verkleinert.

 

[Feeder]

Hat jemand vielleicht noch eine Idee?

 

[Xyz1]

Wir müssen mehr über NN s wissen und mehr über das bislang unbekannte Spiel wissen. sonst wird Dir keiner helfen können

 

[Feeder]

Ich werde einfach mal ein YouTube Video drehen...

 

[Xyz1]

Ich werde einfach mal ein YouTube Video drehen...

Das schaue ich mir an!!

 

[Feeder]

Entschuldigt bitte die schlechte Audioqualität, aber ich habe keinen Weg gefunden das Rauschen so schnell zu beheben:

Grüße Niclas

 

[thecain]

Hast du schon mal versucht es full Connected zu machen?

https://github.com/neuroph/neuroph/...va/org/neuroph/nnet/MultiLayerPerceptron.java

so ähnlich

 

[Xyz1]

Ok vielleicht zwei "Ideen"/Tipps dazu.
"R" startet die Trainingsmenge, dann nochmal "R" stoppt das Training....
Wenn aber in der Trainingsmenge ein oben oder unten über den Rand schreiten gar nicht vorkommt , dann kann er das ja auch nicht lernen, denke ich

 

[Feeder]

Hast du schon mal versucht es full Connected zu machen?

https://github.com/neuroph/neuroph/...va/org/neuroph/nnet/MultiLayerPerceptron.java

so ähnlich

Es sollte eigentlich von Natur aus fullmashed sein... Ich schau mal nach...
Das Netz ist fully mashed.

 

[Feeder]

Ok vielleicht zwei "Ideen"/Tipps dazu.
"R" startet die Trainingsmenge, dann nochmal "R" stoppt das Training....
Wenn aber in der Trainingsmenge ein oben oder unten über den Rand schreiten gar nicht vorkommt , dann kann er das ja auch nicht lernen, denke ich

Nochmal r stoppt das Training, das ist korrekt.
wie meinst du das, er versucht ja eine Funktion zu approximieren die bei unbekannten Werten was sinnvolles macht...

 

[Xyz1]

ich meine das so, das er gerade gelernt hat, das er sich dorthin bewegt, wo keine Vögel sind, und das ist außerhalb des Spielbereichs
Kannst du das Spiel so ändern, das ein Überschreiten von "oben/unten" nicht möglich ist?

 

[Feeder]

ich meine das so, das er gerade gelernt hat, das er sich dorthin bewegt, wo keine Vögel sind, und das ist außerhalb des Spielbereichs
Kannst du das Spiel so ändern, das ein Überschreiten von "oben/unten" nicht möglich ist?

Ich verstehe was du meinst, wenn ich das ändern würde würde es vermutlich besser funktionieren. Aber cooler wäre es natürlich wenn es anhand meiner Daten auch lernt, dass ich nie die Spielgrenzen überschreite

 

[Xyz1]

Aber cooler wäre es natürlich wenn es anhand meiner Daten auch lernt, dass

Wahrscheinlich wird er das auch lernen, so das Du ein Überschreiten von "oben/unten" im echten Spiel (nicht im Trainingsspiel) wieder zulassen kannst, denk ich

 

[Feeder]

Wahrscheinlich wird er das auch lernen, so das Du ein Überschreiten von "oben/unten" im echten Spiel (nicht Trainingsspiel) wieder zulassen kannst, denk ich

Ich kann dir gerade leider nicht ganz folgen. Trainingsspiel? Soll ich die Spielregeln abändern?

 

[Xyz1]

Soll ich die Spielregeln abändern?

ja quasi, wenn ymax = 100 und ymin = 0 ist dann lass bei y >= 100 den roten Punkt mal bei 100....

 

[Feeder]

ja quasi, wenn ymax = 100 und ymin = 0 ist dann lass bei y >= 100 den roten Punkt mal bei 100....

Dann würde der doch einfach nur stupide gegen die Wand rennen, oder? Ich müsste auch die Geschwindigkeit ds/dt abändern Sonst funktioniert die Simlation nicht mehr

 

[Xyz1]

Dann würde der doch einfach nur stupide gegen die Wand rennen,

joa, aber das Verweilen dort wäre nicht gut ==> er lernt dann innerhalb des Spielbereichs zu bleiben.

 

[Feeder]

joa, aber das Verweilen dort wäre nicht gut ==> er lernt dann innerhalb des Spielbereichs zu bleiben.

ahh, du willst eine Neuroevolution implementieren?

 

[Xyz1]

Neuroevolution

ja
hab ich noch nie

 

[Feeder]

ja
hab ich noch nie

also zuerst müsste ich einen Spielplatz bauen, indem mehrere Spieler spielen können. Dann sollte ich die genetische Mutation multithreaden, sonst bekommt man ja Augenkrebs bevor da mal was sinnvolles passiert. Dann sollte ich ein Netz vorfertigen, was möglichst viele Neuronen hat || vielleicht auch ohne grafische Ausgabe iterieren...

Dann bräuchte ich ne Fitnessfunktion das wäre bestmöglich: t oder t^2
Dann würde ich eine eingeschlechtige Fortpflanzung vorziehen, weil Crossingover und sowas Rotz ist...
Dann vielleicht die Liste aller Gewicht:

1
2
3,1
4

in eine Bytekette formattieren:

00000001|00000010|11,0001100110011001100110011001100110011001100110011|00000100

Dann eine Learningrate festlegen.

Und mit dieser Wahrscheinlichkeit jedes Bit flippen.

Dann die neue Kette einlesen...

Das klingt nach einen Haufen Arbeit

 

[Feeder]

Es muss aber noch einen anderen Weg geben...

 

[Feeder]

Hatte gerade einen AHA - Moment:

ich nehme ja oft Daten auf bei den nicht wirklich viel passiert. Diesen Daten kommen überproportional häufiger vor als die Daten in dennen was dramatisches/wichtiges passiert. Ich muss also Datenfilterung betreiben...

Ideen?

 

[Xyz1]

Hallo @Feeder , habe mich jetzt etwas näher mit Neuroph beschäftigt und ich denke , es liegt an dem max error...

		BackPropagation bp = new BackPropagation();
		bp.setLearningRate(0.005);
		bp.setMaxIterations(50000);
		bp.setMaxError(0.001);
		System.out.println(bp.getLearningRate());
		System.out.println(bp.getMaxIterations());
		System.out.println(bp.getMaxError());

der ist bei neuroph zu hoch eingestellt. Wenn der max error zu hoch ist, learning rate zu hoch ist und max iterations zu klein oder gar nicht eingestellt ist, so bricht er das Training ab - bevor es wirklich sinnvoll ist.

Meine zweite Idee ist, dass Du zu viele hidden layer hast, die Effekte im NN gegenseitig "aufheben" und wodurch das NN zu komplex wird.