ich habe auf meiner Seite ein textarea-Feld. Die Eingabe des Nutzers möchte ich mit javascript (und ajax) weiterverarbeiten.

OK

Wenn in der Eingabe jedoch Sonderzeichen (z.B. " oder ') sind, funktioniert selbstverständlich die Weitergabe dieser Variable nicht mehr, weil die Zeichen unmaskiert sind.

Selbstverständlich? Nicht! Where is dem Problem? Innerhalb des JS bestimmt nicht. Bei dem, was Du zum Server sendest? Womöglich suchst Du http://de.selfhtml.org/javascript/objekte/unabhaengig.htm#encode_uri_component@title=encodeURIComponent?

Ach ja, ich kenne mich nicht mit regulären Ausdrücken aus...

Es gibt Schlimmerers! Zumindest wird es kein sinnvoller Lösungsansatz für die Fragestellung sein.