Optative clauses (unreal)

Certain modal verb structures are quite similar to optative clauses of the unreal.

While, though, optative clauses express a wish that cannot be fulfilled, the modal verb structures express a demand/claim that cannot be met.

Examples
Du hast ihn angelogen.	Du hättest ihn nicht anlügen sollen.
Du hast ihn beleidigt.	Du hättest ihn nicht beleidigen dürfen.
Du hast dich für das Geschenk nicht bedankt.	Du hättest dich für das Geschenk bedanken müssen.
Du hast mich zu spät benachrichtigt.	Du hättest mich früher benachrichtigen können.
event in the past	unfulfilled claim

Modal verb structures are in the past perfect Konjunktiv II and are formed with modal verbs müssen, sollen, dürfen and können (with the meaning of sollen/müssen).