anstatt dass 와 anstatt zu 의 차이점은 우리가 dass 절 쓸때와 zu 동사원형 쓸때의 차이점을 생각하면 편합니다. anstatt dass는 anstatt dass가 포함된 부문장의 주어와 주문장의 주어가 같을때와 다를때 모두 다 사용 가능합니다. (일반 dass절도 동일) 그에반해 anstatt zu + 동사원형은 부문장의 주어와 주문장의 주어가 같을때만 사용 가능하고요.

그리고 문장안에 nicht 와같은 부정어가 필수로 들어가야 한다는 소리는 첨 듣네요. 다만 뜻이 ~대신이라는 뜻이기에 주문장과 부문장의 내용이 일치하거나 같은 성격을 띄면 안되겠죠. 즉 두 내용이 서로 반하는 내용이어야한다는 말입니다. 예를들어 원래 주문장은 부정적인 내용이면 anstatt dass 혹은 anstatt zu가 포함된 문장은 긍정적인 내용인 것 처럼요.

예시문장을 적자면 anstatt zu : Anstatt meine Frage zu beantworten, ignorierte er mich. (나의 질문에 대답하는 대신에 그는 나의 말을 무시했다.)

anstatt dass : Anstatt dass er meine Frage beantwortet, ignoriert er mich. 도 되고(anstatt zu와 동일한 뜻 - 주문장 & 부문장 주어 동일)
Anstatt dass ich koche, gehen wir ins Restaurant.  ( 내가 요리하는 대신에 우리는 레스토랑에 갈거야.)

자세한 내용은 아래 링크를 확인 바랍니다. 저도 문법 공부할때 여기서 도움을 많이 받았어요.
https://deutschegrammatik20.de/komplexer-satz/ubersicht-satzverbindung/satzverbindung-anstatt-dasszu/