@Talwyn
Ist es nicht eher so, dass die Emotionen die Motivation für das Denken/Handeln darstellen oder genauer gesagt die Ziele des Denkens definieren? Damit man denken und bewerten kann braucht es keine Emotionen, lediglich drei Bestandteile. Ein Ziel, Informationen und Optionen. Die Entscheidungen werden durch Emotionen beeinflusst aber nicht erst durch sie ermöglicht. Mir scheint es auch als bringe man hier Erfahrung und Emotion durcheinander. Mittels Erfahrung werden Informationen gesammelt und gewichtet. Eine Gewichtung ist auch ohne Emotionen möglich oder genauer gesagt sind die Emotionen lediglich das Interface zu der Gewichtung. Wenn eine Handlung in der Vergangenheit mehrheitlich zu positiven Ergebnissen geführt hat, dann ist diese in Relation zu den damals vorliegenden Informationen hoch gewichtet. Beim Menschen zeigt sich diese Priorisierung durch Emotionen/Gefühle.
Anders erklärt. Um Optionen "gut" und "schlecht" zu finden braucht es Erfahrung, also angesammelte Informationen, welche im Kontext zueinander, dem erklärten Ziel und den Optionen stehen. Die Auswertung der Probabilität, der Output sind dann die Emotionen. Emotionen sind das GUI zum logischen Denkprozess. Stark vereinfachte Erklärung, schon klar.
Ja, nach dem Lustprinzip geht man z.B. davon aus, dass Emotionen als Motivatoren zur Bedürfnisbefriedigung dienen - man pflanzt sich nicht fort, weil man seine Art erhalten will, sondern weil Sex Spaß macht (mit einer positiven Emotion verknüpft ist).
Getriggert werden die Emotionen durch Schlüsselreize von außen - überschreitet die Stärke des Reizes eine bestimmte Schwelle, wird die entsprechende Emotion "ausgelöst". Erfahrung ist hier aber nicht als Ersatz für die Emotion zu gebrauchen, sie dient dazu die Schwellen für die Reizstärke zu beeinflussen. Wird ein Kind von einem Hund gebissen, so steigt dadurch die wahrgenommene Bedrohung durch Hunde: Angst vor Hunden stellt sich nicht erst ein, wenn ein Hund knurrend, bellend und zähnefletschend auf einen zu gerannt kommt, sondern schon, wenn ein ganz friedlicher Hund der Person zu nahe kommt.
Wichtig ist, dass man zwischen Emotion und Gefühl unterscheidet. Letzteres ist nämlich eigentlich das, was die Alltagssprache meint, wenn sie Emotion sagt. Ein Gefühl ist die subjektive Wahrnehmung/das Erleben der Emotion - also wieder eine Wertzuschreibung*. Ob man diese für eine höhere KI wirklich braucht, kann ich nicht sagen, aus dem Bauch heraus würde ich sagen, dass es sich kaum vermeiden lässt, da man der KI ansonsten explizit verbieten müsste, ihre Emotionen zu bewerten (im Unterschied z.B. zu dem, was sie an Umweltreizen aufnimmt), und eine solche Selbstreflexion zeichnet aus meiner Sicht das höhere Bewusstsein aus.
Wie gesagt ein äußerst spannendes Thema. Wer sich dafür interessiert, dem kann ich wärmstens den Roman "Angenehm" von Matthias Hirth empfehlen, der sich mit exakt diesen Fragen befasst, und zwar in ziemlich gut recherchierter Form. Nicht unbedingt leichte Kost, aber die Lektüre ist die Mühe IMO allemal wert.