sysctl -w vm.oom_kill_allocating_task=1
echo 80 > /proc/sys/vm/overcommit_ratio
echo 2 > /proc/sys/vm/overcommit_memory
Сервер выжил, но все равно работал не так, как нужно. На данный момент я оставил:
sysctl -w vm.oom_kill_allocating_task=0
echo 50 > /proc/sys/vm/overcommit_ratio
echo 0 > /proc/sys/vm/overcommit_memory
И веду наблюдение за сервером, возможно это поможет избежать проблем. Так же идет поиск решение общее для всего сервера. Отчет выложу позже