오목 함수
수학에서 오목 함수(concave function)는 정의역 내 원소들의 임의의 볼록 결합에서의 함숫값이 해당 정의역 원소들의 볼록 결합보다 크거나 같은 함수를 말한다. 동치적으로, 오목 함수는 그 하방 그래프(hypograph)가 볼록 집합인 함수이다. 오목 함수의 부류는 어떤 의미에서 볼록 함수의 부류와 반대이다. 오목 함수는 아래로 오목, 위로 볼록, 볼록 캡, 또는 상방 볼록이라고도 불린다.
정의
구간(또는 보다 일반적으로 벡터 공간의 볼록 집합) 위에서 정의된 실수값 함수 f가 오목하다는 것은, 구간 내의 임의의 x와 y 및 임의의 \alpha \in [0,1]에 대해 다음이 성립하는 것이다.[^2]
f((1-\alpha )x+\alpha y)\geq (1-\alpha ) f(x)+\alpha f(y)
다음이 성립하면 함수를 순오목(strictly concave)이라 한다.
f((1-\alpha )x+\alpha y) > (1-\alpha ) f(x)+\alpha f(y)
이는 임의의 \alpha \in (0,1) 및 x \neq y에 대해 성립해야 한다.
함수 f: \mathbb{R} \to \mathbb{R}의 경우, 이 두 번째 정의는 단순히 x와 y 사이의 모든 z에 대해 f의 그래프 위의 점 (z, f(z))가 점 (x, f(x))와 (y, f(y))를 잇는 직선보다 위에 있다는 것을 나타낸다.

함수 f의 상위 등고선 집합 S(a)={x: f(x)\geq a}이 볼록 집합이면, 그 함수 f는 준오목(quasiconcave)하다고 한다.[^1]
성질
일변수 함수
- 미분 가능한 함수 는 그 도함수 가 해당 구간에서 (순)단조 감소할 때, 그리고 그때에만 해당 구간에서 (순)오목하다. 즉, 오목 함수는 증가하지 않는(감소하는) 기울기를 갖는다.[^3][^4]
- 오목성이 바뀌는 점(오목에서 볼록으로 또는 그 반대)을 변곡점이라 한다.[^5]
- 가 두 번 미분 가능하면, 가 비양수(또는 비공식적으로 "가속도"가 비양수)일 때, 그리고 그때에만 는 오목하다. 가 음수이면 는 순오목하지만, 그 역은 성립하지 않으며 이는 로 보일 수 있다.
- 가 오목하고 미분 가능하면, 1차 테일러 근사에 의해 위로 유계이다:[^1] f(y) \leq f(x) + f'(x)[y-x]
- 구간 위의 르베그 가측 함수는 중점 오목일 때, 그리고 그때에만 오목하다. 즉, 에서의 임의의 와 에 대해 f\left( \frac{x+y}2 \right) \ge \frac{f(x) + f(y)}2
- 함수 가 오목하고 이면, 는 [0,\infty) 위에서 열가법적이다. 증명: #* 가 오목하고 이므로, 로 놓으면 다음을 얻는다. f(tx) = f(tx+(1-t)\cdot 0) \ge t f(x)+(1-t)f(0) \ge t f(x) . #* a,b\in[0,\infty)에 대해: f(a) + f(b) = f \left((a+b) \frac{a}{a+b} \right) + f \left((a+b) \frac{b}{a+b} \right) \ge \frac{a}{a+b} f(a+b) + \frac{b}{a+b} f(a+b) = f(a+b)
n변수 함수
- 함수 가 볼록 집합 위에서 오목일 필요충분조건은 함수 가 해당 집합 위에서 볼록 함수인 것이다.
- 두 오목 함수의 합은 그 자체로 오목하며, 두 오목 함수의 점별 최솟값도 오목하다. 즉, 주어진 정의역 위의 오목 함수들의 집합은 반체를 이룬다.
- 함수의 정의역 내부에서 순극대점 근방에서는 함수가 반드시 오목해야 한다. 부분적인 역으로, 순오목 함수의 도함수가 어떤 점에서 0이면 그 점은 극대점이다.
- 오목 함수의 모든 극대는 또한 최대이다. 순오목 함수는 최대 하나의 최대를 갖는다.
예시
- 함수 f(x)=-x^2와 g(x)=\sqrt{x}는 각각의 정의역에서 오목한데, 이는 2차 도함수 f*(x) = -2와 g*(x) =-\frac{1}{4 x^{3/2}}가 항상 음수이기 때문이다.
- 로그 함수 f(x) = \log{x}는 정의역 (0,\infty)에서 오목한데, 이는 그 도함수 \frac{1}{x}가 순감소 함수이기 때문이다.
- 임의의 아핀 함수 f(x)=ax+b는 오목이면서 동시에 볼록이지만, 순오목도 순볼록도 아니다.
- 사인 함수는 구간 [0, \pi]에서 오목하다.
- 함수 f(B) = \log |B|는 비음정치 행렬 B의 행렬식 |B|에 대해 오목하다.
응용
- 대기 중 전파 감쇠 계산에서 광선의 굴절은 오목 함수를 포함한다.
- 불확실성 하의 선택에 대한 기대 효용 이론에서, 위험 회피 의사결정자의 기수적 효용 함수는 오목하다.
- 미시경제 이론에서, 생산 함수는 일반적으로 정의역의 일부 또는 전체에서 오목하다고 가정되며, 이는 투입 요소에 대한 수확 체감을 초래한다.[^6]
- 열역학과 정보 이론에서, 엔트로피는 오목 함수이다. 열역학적 엔트로피의 경우, 상전이가 없으면 시량 변수의 함수로서의 엔트로피는 순오목(strictly concave)하다. 만약 시스템이 상전이를 겪을 수 있고, 서로 다른 상의 두 하위 시스템으로 분리될 수 있다면(상분리, 예: 끓음), 하위 시스템의 엔트로피 극대화 매개변수는 두 상 사이의 직선 위에 정확히 놓이는 결합 엔트로피를 나타낸다. 이는 상전이가 있는 시스템의 "유효 엔트로피"가 상분리가 없는 엔트로피의 볼록 포락선임을 의미한다; 따라서, 상분리를 포함하는 시스템의 엔트로피는 비순오목(non-strictly concave)하다.[^7]
같이 보기
- 오목 다각형
- 옌센 부등식
- 로그 오목 함수
- 준오목 함수
- 오목화
추가 참고 문헌
각주
[^1]: Varian, Hal R.. 미시경제 분석. Norton. (1992)
[^2]: Lenhart, S.. 생물학적 모델에 적용된 최적 제어. Chapman & Hall/ CRC
[^3]: Cite book last=Rudin first=Walter title=분석 year=1976 pages= 101
[^4]: Gradshteyn, I. S.
[^5]: Hass, Joel. (2017년 3월 13일)
[^6]: Pemberton, Malcolm. 경제학자를 위한 수학: 입문 교과서. Oxford University Press
[^7]: Callen, Herbert B.. 열역학과 열통계학 입문. Wiley. (1985)
관련 인사이트

디지털 트윈, 당신 공장엔 이미 있다 — 엑셀과 MES 사이 어딘가에
디지털 트윈은 10억짜리 3D 시뮬레이션이 아니다. 지금 쓰고 있는 엑셀에 좋은 질문 하나를 더하는 것 — 두 전문가가 중소 제조기업이 이미 가진 데이터로 예측하는 공장을 만드는 현실적 로드맵을 제시한다.

공장의 뇌는 어떻게 생겼는가 — 제조운영 AI 아키텍처 해부
지식관리, 업무자동화, 의사결정지원 — 따로 보면 다 있던 것들입니다. 제조 AI의 진짜 차이는 이 셋이 순환하면서 '우리 공장만의 지능'을 만든다는 데 있습니다.

그 30분을 18년 동안 매일 반복했습니다 — 품질팀장이 본 AI Agent
18년차 품질팀장이 매일 아침 30분씩 반복하던 데이터 분석을 AI Agent가 3분 만에 해냈습니다. 챗봇과는 완전히 다른 물건 — 직접 시스템에 접근해서 데이터를 꺼내고 분석하는 AI의 현장 도입기.