Эта функция не определена стандартом ANSI С.

Функция set_new_handler() позволяет определять, какая функция будет вызвана в случае неуда­чи выделения новой памяти. Адрес этой функции передается в параметре newhand. Для деактива­ции функции и возвращения к обработке по умолчанию используется вызов функции set_new_handler() с параметром newhand, равным NULL.

Обычно не следует использовать эту функцию. Ее использование очень специфично, и никаких примеров здесь не приводится.