[프로그래머스 LV2] [1차] 뉴스 클러스터링

---

지난 포스트에 이어서 re 패키지를 이용한 정규 표현식 문제를 가지고 왔습니다! 그리고 간단하게 정규 표현식 내용을 소개해 드릴까 합니다.

문제

[1차] 뉴스 클러스터링 링크

여러 언론사에서 쏟아지는 뉴스, 특히 속보성 뉴스를 보면 비슷비슷한 제목의 기사가 많아 정작 필요한 기사를 찾기가 어렵다. Daum 뉴스의 개발 업무를 맡게 된 신입사원 튜브는 사용자들이 편리하게 다양한 뉴스를 찾아볼 수 있도록 문제점을 개선하는 업무를 맡게 되었다.

개발의 방향을 잡기 위해 튜브는 우선 최근 화제가 되고 있는 “카카오 신입 개발자 공채” 관련 기사를 검색해보았다.

• 카카오 첫 공채..’블라인드’ 방식 채용
• 카카오, 합병 후 첫 공채.. 블라인드 전형으로 개발자 채용
• 카카오, 블라인드 전형으로 신입 개발자 공채
• 카카오 공채, 신입 개발자 코딩 능력만 본다
• 카카오, 신입 공채.. “코딩 실력만 본다”
• 카카오 “코딩 능력만으로 2018 신입 개발자 뽑는다”

기사의 제목을 기준으로 “블라인드 전형”에 주목하는 기사와 “코딩 테스트”에 주목하는 기사로 나뉘는 걸 발견했다. 튜브는 이들을 각각 묶어서 보여주면 카카오 공채 관련 기사를 찾아보는 사용자에게 유용할 듯싶었다.

유사한 기사를 묶는 기준을 정하기 위해서 논문과 자료를 조사하던 튜브는 “자카드 유사도”라는 방법을 찾아냈다.

자카드 유사도는 집합 간의 유사도를 검사하는 여러 방법 중의 하나로 알려져 있다. 두 집합 A, B 사이의 자카드 유사도 J(A, B)는 두 집합의 교집합 크기를 두 집합의 합집합 크기로 나눈 값으로 정의된다.

예를 들어 집합 A = {1, 2, 3}, 집합 B = {2, 3, 4}라고 할 때, 교집합 A ∩ B = {2, 3}, 합집합 A ∪ B = {1, 2, 3, 4}이 되므로, 집합 A, B 사이의 자카드 유사도 J(A, B) = 2/4 = 0.5가 된다. 집합 A와 집합 B가 모두 공집합일 경우에는 나눗셈이 정의되지 않으니 따로 J(A, B) = 1로 정의한다.

자카드 유사도는 원소의 중복을 허용하는 다중집합에 대해서 확장할 수 있다. 다중집합 A는 원소 “1”을 3개 가지고 있고, 다중집합 B는 원소 “1”을 5개 가지고 있다고 하자. 이 다중집합의 교집합 A ∩ B는 원소 “1”을 min(3, 5)인 3개, 합집합 A ∪ B는 원소 “1”을 max(3, 5)인 5개 가지게 된다. 다중집합 A = {1, 1, 2, 2, 3}, 다중집합 B = {1, 2, 2, 4, 5}라고 하면, 교집합 A ∩ B = {1, 2, 2}, 합집합 A ∪ B = {1, 1, 2, 2, 3, 4, 5}가 되므로, 자카드 유사도 J(A, B) = 3/7, 약 0.42가 된다.

이를 이용하여 문자열 사이의 유사도를 계산하는데 이용할 수 있다. 문자열 “FRANCE”와 “FRENCH”가 주어졌을 때, 이를 두 글자씩 끊어서 다중집합을 만들 수 있다. 각각 {FR, RA, AN, NC, CE}, {FR, RE, EN, NC, CH}가 되며, 교집합은 {FR, NC}, 합집합은 {FR, RA, AN, NC, CE, RE, EN, CH}가 되므로, 두 문자열 사이의 자카드 유사도 J("FRANCE", "FRENCH") = 2/8 = 0.25가 된다.

입력 형식

• 입력으로는 str1과 str2의 두 문자열이 들어온다. 각 문자열의 길이는 2 이상, 1,000 이하이다.
• 입력으로 들어온 문자열은 두 글자씩 끊어서 다중집합의 원소로 만든다. 이때 영문자로 된 글자 쌍만 유효하고, 기타 공백이나 숫자, 특수 문자가 들어있는 경우는 그 글자 쌍을 버린다. 예를 들어 “ab+”가 입력으로 들어오면, “ab”만 다중집합의 원소로 삼고, “b+”는 버린다.
• 다중집합 원소 사이를 비교할 때, 대문자와 소문자의 차이는 무시한다. “AB”와 “Ab”, “ab”는 같은 원소로 취급한다.

출력 형식

입력으로 들어온 두 문자열의 자카드 유사도를 출력한다. 유사도 값은 0에서 1 사이의 실수이므로, 이를 다루기 쉽도록 65536을 곱한 후에 소수점 아래를 버리고 정수부만 출력한다.

입출력 예

내 풀이

문제에서 요구하는 바가 꽤 많기 때문에 여러 개의 함수를 만들어서 문제를 풀었습니다. 먼저 counter_list 함수는 문자열을 두 글자씩 끊어 다중집합을 만들어냅니다. 그리고 중복 원소에 대한 집합 개념을 사용하기 위해 Counter을 이용했습니다. 두 번째 함수인 Jaccard는 실제로 자카드 유사도를 구하는 함수입니다. Counter 끼리의 교집합과 합집합은 중복 원소를 허용합니다. 따라서 아래와 같이 count를 구한 후, 자카드 유사도를 도출할 수 있습니다. 마지막으로 solution에서는 구한 자카드 유사도에 65536을 곱하여 답안이 나옵니다.

from collections import Counter

# counter_list : 두 글자씩 끊어서 만든 다중집합의 Counter
def counter_list(string) :
  string_2_list = []
  for i in range(len(string) - 1) :
    if string[i : i + 2].isalpha() :
      temp = string[i : i + 2].lower()
      string_2_list.append(temp)
  
  counter_list = Counter(string_2_list)
  return counter_list


# Jaccard : 실제로 자카드 유사도를 구하는 함수
def Jaccard(list1, list2) :
  intersection_count = sum(dict(list1 & list2).values())    # 원소의 중복을 허용하여 교집합
  union_count = sum(dict(list1 | list2).values())    # 원소의 중복을 허용하여 합집합
  if union_count == 0 :
    jaccard = 1
  else :
    jaccard = intersection_count / union_count
  
  return jaccard


def solution(str1, str2) :
    c1 = counter_list(str1)
    c2 = counter_list(str2)
    jaccard = Jaccard(c1, c2)
    answer = int(65536 * jaccard)
    return answer

다른 사람들의 풀이

정규표현식에 대한 자세한 내용은 추후 포스트에서 다룰 예정이지만, 알아두면 좋은 간단한 내용들을 먼저 소개드립니다.

∗   :   앞의 문자를 0번 이상 반복

+   :   앞의 문자를 1번 이상 반복

?   :   앞의 문자를 0~1번 반복

^   :   문자열의 시작을 의미

[^]   :   뒤의 문자를 제외한 문자를 의미

여기서 헷갈릴만한 부분은 ^ 부분입니다. ^가 그냥 쓰인다면 문자열의 시작을 의미하지만, 대괄호 안에 쓰인다면 뒤의 문자를 제외한다는 의미가 됩니다. 따라서 이 부분을 감안하여 정규 표현식을 해석해야 합니다.
위의 내용을 토대로 re 패키지를 이용한 문제 풀이가 있습니다. re.findall은 문자열 중 패턴과 일치하는 모든 부분을 찾을 때 사용됩니다. ‘[^a-zA-Z+]‘는 알파벳이 아닌 문자가 1개 이상 쓰인 문자열을 의미합니다. 종합해보면 5~6줄의 코드는 알파벳이 아닌 문자가 존재하지 않을 때, 즉 알파벳으로만 이루어져 있을 때 문자열을 소문자화하여 리스트에 넣는다는 의미로 해석할 수 있습니다. 또한, 이 코드에서는 Counter를 사용하지 않고 중복을 허용하지 않을 때의 교집합과 합집합 원소를 구한 후, 해당 원소 개수를 다시 구하는 방식으로 문제를 해결했습니다. 빨리 정규 표현식에 익숙해져서 자유롭게 코드에 이용해볼 수 있도록 공부를 해야겠어요.🏃‍♂️ 그래도 여러 개의 함수를 이용하여 빠른 속도의 코딩을 만들었기 때문에 나름 뿌듯했던 문제였습니다! 😁

import re
import math

def solution(str1, str2):
    str1 = [str1[i:i+2].lower() for i in range(0, len(str1)-1) if not re.findall('[^a-zA-Z]+', str1[i:i+2])]
    str2 = [str2[i:i+2].lower() for i in range(0, len(str2)-1) if not re.findall('[^a-zA-Z]+', str2[i:i+2])]

    gyo = set(str1) & set(str2)
    hap = set(str1) | set(str2)

    if len(hap) == 0 :
        return 65536

    gyo_sum = sum([min(str1.count(gg), str2.count(gg)) for gg in gyo])
    hap_sum = sum([max(str1.count(hh), str2.count(hh)) for hh in hap])

    return math.floor((gyo_sum/hap_sum)*65536)